خمس سوارى وبنى منارته بالحجارة ، وهو أول من عمل المقصورة ونقل دار الامارة إلى قبلة المسجد ، وكان بناؤه إياها لبن وطين حتى بناها صالح بن عبد الرحمن السجستاني مولى بنى تميم فى ولايته خراج العراق لسليمان بن عبد الملك بالآجر والجص وزاد فيه عبيد بن زياد وفى مسجد الكوفة ، وقال : دعوت الله أن يرزقني الجهاد ففعل ، ودعوته أن يرزقني بناء مسجدى الجماعة بالمصرين ففعل ، ودعوته أن يجعلني خلفا من زياد ففعل.

وقال أبو عبيدة معمر بن المثنى : لما بنى زياد المسجد أتى بسوارية من جبل الأهواز ، وكان الذي تولى أمرها وقطعها الحجاج بن عتيك الثقفي وابنه فظهر له مال فقيل حبذا الإمارة ولو على الحجارة فذهبت مثلا ، قال وبعض الناس يقول : أن زيادا رأى الناس ينفضون أيديهم إذا تربت وهم فى الصلاة فقال : لا آمن أن يظن الناس على طول الأيام أن نفض الأيدى فى الصلاة سنة ، فأمر بجمع الحصى وإلقائه فى المسجد فاشتد الموكلون بذلك على الناس وتعنتوهم وأروهم حصى انتقوه ، فقالوا : ايتونا بمثله على مقاديره وألوانه وارتشوا على ذلك فقال القائل : حبذا الامارة ولو على الحجارة ، وقال أبو عبيدة : وكان جانب المسجد الشمالي منزويا لأنه كانت هناك دار لنافع بن الحارث بن كلدة فأبى ولده بيعها ، فلما ولى معاوية عبيد الله بن زياد البصرة قال عبيد الله لأصحابه : إذا شخص عبد الله بن نافع إلى أقصى ضيعته فأعلموني ذلك ، فشخص إلى قصره الأبيض الذي على البطيحة ، فأخبر عبيد الله بذلك فبعث الفعلة فهدموا من تلك الدار ما سوى به تربيع المسجد ، وقدم ابن نافع فضج إليه من ذلك فأرضاه بأن أعطاه بكل ذراع خمسة أذرع وفتح له فى الحائط خوخة إلى المسجد فلم تزل الخوخة فى حائطه حتى زاد المهدى أمير المؤمنين فى المسجد فأدخلت الدار كلها فيه ، وأدخلت فيه أيضا دار الامارة فى خلافة الرشيد رحمه‌الله.