صار من حواريّ النبي صلى‌الله‌عليه‌وآله ، وأحد الأربعة الذين أمر الله نبيّه صلى‌الله‌عليه‌وآله بحبّهم ، وكان أول من حيّا النبي صلى‌الله‌عليه‌وآله بتحية الإسلام.

يعتبر المترجم له أحد أركان التشيّع الأربعة ، ومن أوائل من والى وأخلص للإمام أمير المؤمنين عليه‌السلام في القول والعمل ، فكان أوّل من لقّب بالشيعي على عهد النبي صلى‌الله‌عليه‌وآله ، وكان من جملة النفر القليل الذين حضروا تشييع جنازة فاطمة الزهراء عليها‌السلام وصلّوا عليها.

قال النبي صلى‌الله‌عليه‌وآله في حقه : «أبو ذر صدّيق هذه الأمّة» فضرب المثل في صدقه.

وقال عليه‌السلام : «ما أظلّت الخضراء ولا أقلّت الغبراء على ذي لهجة أصدق من أبي ذر».

وقال عليه‌السلام : «أبو ذر يمشي على الأرض في زهد عيسى بن مريم عليه‌السلام».

وبعد وفاة النبي صلى‌الله‌عليه‌وآله ارتدّ الناس عن الإمام أمير المؤمنين عليه‌السلام إلّا ثلاثة وهم : أبو ذر وسلمان الفارسي والمقداد الكندي ، فلازم الإمام عليه‌السلام ووالاه أشدّ الموالاة ، وكان يتجاهر بذكر فضائله وفضائل أهل بيته.

قال الإمام أمير المؤمنين عليه‌السلام في حقه : «ضاقت الأرض بسبعة ، بهم ترزقون ، وبهم تنظرون ، وبهم تمطرون ، منهم أبو ذر».

بعد موت أبي بكر بن أبي قحافة انتقل إلى الشام واستوطنها ، فلم يزل بها حتى أيام حكومة عثمان بن عفان ، فوقف منه موقف المعارض ، وأخذ ينهاه عن قبائح أعماله ، ويحتجّ على تصرّفاته المشينة والمخالفة للإسلام ، فأبعده عثمان إلى الرّبذة من قرى المدينة ، وأمر الناس أن يتحاموه ويجافوه.

وعند خروجه من المدينة إلى الربذة جعل عثمان مروان بن الحكم مراقبا عليه ، فلمّا علم الإمام أمير المؤمنين عليه‌السلام بإبعاده ، جاء ومعه الحسنان عليهما‌السلام وجماعة من المسلمين لتوديعه ، فاعترضهم مروان قائلا : يا عليّ! إنّ أمير المؤمنين قد نهى الناس أن يصحبوا أبا ذر في مسيره ويشيّعوه ، فإن كنت لم تدر بذلك فقد أعلمتك. فحمل عليه أمير المؤمنين عليه‌السلام السوط وضرب بين أذني ناقة مروان وقال عليه‌السلام : تنحّ نحّاك الله إلى النار ، ثم مضى مع أبي ذر مشيّعا له ، ثم ودّعه وانصرف.