وكان العمل فى خلافة الهادى دون العمل فى خلافة المهدى ؛ فى الاستحكام والزينة والاهتمام ؛ ولكن كملت عمارة المسجد على الوجه الذى كان باقيا إلى هذه الأيام ، وما زيد بعد ذلك إلا الزيادتين ؛ كما نشرحهما إن شاء الله تعالى.
وهذه الأساطين الرخام جلبها المهدى من بلاد مصر والشام ، وأكثرها مجلوب من بلاد أخميم من أعمال مصر ، وهى بلدة خراب الآن من بلدان إقليم مصر القديمة كيرة الرخام ، يجلب منها إلى مصر وإلى غيرها من البلدان الرخام العظيمة والأعمدة اللطيفة المنحوتة المخروطة من الرخام الأبيض.
يقال : إن أكثر رخام المسجد منها.
ولم تطل مدة موسى الهادى ، وكان مدة ملكه ستة وشهرا ، وتوفى شابا عمره أربع وعشرون سنة ، فى منتصف ربيع الأول سنة ١٧٠ ، واختلف فى سبب موته ، فقيل : أنه وقع نديما له ، فتعلق به ، فوقع فى مقصبة ، فدخلت قصب فى مخارجها ، فماتا جميعا.
وقيل : بل قتلته أمه الخيزران ؛ لأنه عمل على قتلها ، وأراد قتل أخيه هارون الرشيد ، ليولى العهد ولدا صغيرا من أولاده ، وعمره عشر سنين ، وكانت أمه الخيزران قد استبدت بالأمور العظام ، وكانت المواكب تقف على بابها ، فزجرها الهادى عن ذلك ، وقال لها : إن وقف أمير على بابك ، ضربت عنقه ، أما لك معزل يشغلك ، أو مصحف ، أو سبحة؟ فقامت من عنده غضبى ، فبعث إليها طعاما مسموما ؛ فأطعمه للكلب ؛ فانتثر لحمه ، فعملت على قتله لما دخل للمنام ، وأمرت جواريها بأن يغمى وجهه بساط يجلس على جانبه ، فاشتد نفسه إلى أن مات.
وولى الخلافة من بعده ، بعهد من أبيه أخوه هارون الرشيد العباسى ، الخامس من العباسيين ، ليلة السبت ، لأربع عشرة ليلة ، بقيت من ربيع الأول سنة ١٧٠ هجريا ، وأمه الخيزران أم الهادى ، وفيها قال مروان بن أبى حفص الشاعر :