ولي ثلاث سنين وثمانية أشهر ، ومات بحمص بقرية ، يقال لها : حوران ودفن بها في شهر ربيع الأول سنة أربع وستين ، وهو ابن تسع وثلاثين ، وكان له بنون كثيرة ، غير أنّ أكبرهم معاوية بن يزيد ، وكان برا تقيا فاضلا ، وكان ولي عهد أبيه ؛ وخالد بن يزيد يليه ولكنه غير بالغ ، فبويع أبو ليلى معاوية بن يزيد فخطب الناس ، فقال :

أيها الناس! ما أنا بالراغب في الامارة عليكم ، ولا بالآمن من شركم ، إلا إن جدي معاوية بن أبي سفيان قد نازع هذا الأمر من كان أولى به منه بالقرابة والقدم ، فهو ابن عم نبيكم أعظم المهاجرين قدرا ، وزوج ابنته وأبو ذريته ، فركب جدي منه ما تعلمون ، وركبتم معه ما لا تجهلون ، حتى نزلت به منيته ، ثم تقلّد الأمر أبي وكان غير خليق بها فقصرت مدّته ، وانقطع أثره ، وضمته وأعماله حفرته ، لقد أنسانا الحزن به الحزن عليه ، فيا ليت شعري هل اقيلت عثرته. أم غلبت عليه إساءته ، ثم صرت أنا ثالث القوم والساخط فيما أرى أكثر من الراضي ، وما كنت لاحتمل آثامكم وألقى الله بتبعاتكم فشأنكم بأمركم.

فقال له مروان : يا أبا ليلى! لقد سن لها عمر بن الخطاب سنّة فاتبعها ، فقال معاوية : أتريد أن تفتنني عن ديني يا مروان؟ ثم قال : ائتني برجال عمر حتى أجعلها بينهم شورى ، والله ، لئن كانت الخلافة مغنما فلقد أصبنا منها حظا. وحسب آل أبي سفيان منها ذلك.

ثم نزل عن المنبر ، فقالت له أمه : يا بني! ليتك كنت حيضة في خرقة ، فقال : وددت ذلك يا اماه! أما علمت أن لله نارا يعذب بها من كان ظالما؟ فعاش أربعين يوما ثم مات فقيل له : ألا تعهد بها الى من أحببت؟ فإنا سامعون له مطيعون.