وأمر أن يحمل من خزائنه مالا عظيما لهذا العمل ، وأمر قاضى بغداد ـ يومئذ ـ وهو القاضى يوسف بن يعقوب ـ أن يرتب ذلك ويجهر لعمله من يعتمد عليه ، وأمر أن يحمل المال إليه فجهز بعضه نقدا فى أيام الحج مع ولده وكان مقدما على حوائج الخلافة ومصالح الحج وعمرتها ، وأرسل بباقى المال سفايحا سلمها إلى ولده أبى بكر بن عبد الله بن يوسف المذكور ليستلمها ، فمن كتب اسمه من تلك السفايح بمكة ، وعين معه لهذه الخدمة رجلا يقال له أبو الهياج عميرة بن حسان الأسدى له أمانة ، وحسن رأى ونية جميلة وسيرة حسنة ، فوصلا إلى مكة المشرفة فى موسم حج سنة ٢٨١ ه ، فحلى بالذهب الخالص باب الكعبة الشريفة ، وحج وتخلف بعد الحج بمكة أبو الهياج المذكور ومن معه من العمال والأعوان.
وعاد عبد الله بن القاضى يوسف مع الحجاج إلى بغداد يرسل إليه ما يحتاج إليه من بغداد ليكمل ما أمره به من العمارة المذكورة ، فشرع أبو الهياج فى حفر الوادى وما حول المسجد فحفر حفرا جيدا حتى ظهر من درج المسجد الحرام الشارعة على الوادى اثنا عشر درجة ، وإنما كان الظاهر منها خمس درجات ، فحفر الأرض ورمى بترابها خارج مكة ونظّفت دار الندوة من القمايم والأتربة ، وهدمت ، وحفر أساسها ، وجعلت مسجدا وأدخل فيها أبواب المسجد التى كانت شارعة قبل هذا البناء ثم فتح لها من جدار المسجة الكبير ستة أبواب كبار سعة كل باب خمسة أذرع وارتفاع كل باب من الأرض إلى جهة السماء إحدى عشر ذراعا ، وجعل من الأبواب الكبار ستة أبواب صغار ، وارتفاع كل باب ثمانية أذرع وسعة كل باب ذراعان ونصف وجعل فى هذه الزيادات بابين بطاقين شارعين إلى الخارج فى جانبها الشمالى وباب بطاق واحد فى جانبها الغربى ، وأقيمت أروقتها وسقوفها من جوانبها الأربعة ، وركبت سقوفها بحسب الساج ، وجعل لها منارة وفرغ من عمارتها فى ثلاث سنين ، ولعل إكمالها فى سنة إلا أنها ما استمرت على هذهي الهيئة بل غيرت بعد قليل إلى وضع آخر أحسن منه بعد المعتضد المذكور.
قال محمد بن إسحاق الفاكهى فى «تاريخ مكة» : «إن أبا الحسن محمد