فبعث اليه بابنيه : الحسن والحسين يدافعان عنه. ولكنهما لم يستطيعا مقاومة الجماهير الثاثرة فقتل عثمان.

وبويع علي بالخلافة بعد عثمان على كره منه سنة ٣٥ ه‍ فأخذ معاوية بن أبي سفيان يؤلب بني أمية عليه لأنه لم يأخذ بدم عثمان ، وقد كان الثوار يوم بويع لعلي مجتمعين ولم تغمد سيوفهم ، فرأى رضي‌الله‌عنه أن الحكمة تركهم حتى تخمد نار الفتنة وتتم البيعة ، ورأى معاوية أنه يجب الأخذ بدم عثمان قبل الشروع في البيعة ، وانضم إليه في هذا أهل الشام وطائفة من أهل مصر والعراق.

قضى رحمه‌الله في الخلافة نحو خمس سنوات من ذي الحجة عام ٣٥ ه‍ إلى رمضان عام ٤٠ ه‍.

وقد كانت الأحداث التي وقعت في خلافته أحداثا عظيمة جعلته في كفاح دائم وحروب مستمرة.

وخرجت عليه عائشة أم المؤمنين رضي الله عنها بالبصرة ومعها طلحة والزبير ، ومعركة الجمل مشهورة ثم استمرت الحروب بينه وبين معاوية بن أبي سفيان سجالا ، ومنها موقعة صفين ثم كان أمر التحكيم الذي قبله عليٌّ على كره منه ، وخدع عمرو بن العاص أبا موسى الأشعري فيه.

ثم انتهى الأمر بقتل الخوراج لعلي بيد عبد الرحمن بن ملجم المرادي ، بالكوفة في السابع عشر من رمضان عام ٤٠ ه‍ ودفن بها وعمره ثلاثة وستون عاما وتولى بعده ابنه الحسن خلافة المسلمين ثم تنازل عنها لمعاوية عام ٤١ ه‍.