كنت أظن لك رأيا ، وأنا أكلمك سرّا وتكلمنى جهرا ، وأدعوك إلى الخلافة ، وتعدنى القتل والهلكة. ثم فارقه ورحل هو وأصحابه نحو المدينة ، وندم ابن الزبير على ما صنع ، فأرسل إليه : أما المسير إلى الشام فلا أفعله ، ولكن بايعوا لى هناك فأنى مؤمنكم وعادل فيكم ، فقال الحصين : إن لم تقدم بنفسك فلا يتأتى الأمر ، فإن هناك ناسا من بنى أمية يطلبون هذا الأمر.
وكان رحيل الحصين عن مكة لخمس ليال خلون من ربيع الآخر ، وصفا الأمر بمكة لابن الزبير ، وبويع له بالخلافة فيها ، وبالمدينة وبالحجاز واليمن والبصرة والكوفة وخراسان ومصر وأكثر بلاد الشام.
وكان مروان بن الحكم أراد أن يبايع له وأن يعضده ، وكان قد انحاز هو وأهله إلى أرض حوران ، فوافاهم عبيد الله بن زياد بن أبيه منهزما من الكوفة ، فلوى عزمه عن ذلك ، وقواه على طلب الخلافة ، والتقوا مع الضحاك ابن قيس الفهرى ، وقد دعا إلى نفسه بالشام ، بعد أن دعا لابن الزبير بمرج راهط شرقى الغوطة بدمشق ، فى آخر سنة أربع وستين من الهجرة ؛ وقتل الضحاك ، واستولى مروان على الشام ، وسار إلى مصر فملكها ومهد قواعدها فى سنة خمس وستين ، ثم عاد إلى دمشق ، ومات فى رمضان من سنة خمس وستين ، وقد عهد بالأمر لابنه عبد الملك ، وصار الخليفة بالشام ومصر ، وابن الزبير الخليفة بالحجاز ، ثم سار عبد الملك إلى العراق لقتال مصعب بن الزبير ، أخى عبد الله ، فالتقى الجمعان بدير الجاثليق فى سنة اثنتين وسبعين من الهجرة ، فخان مصعبا بعض جيشه ، لأن عبد الملك كتب إليهم يعدهم ويمنيهم ، حتى أفسدهم على مصعب ، فقتل وقتل معه أولاده : عيسى وعروة وإبراهيم ، واستولى عبد الملك على بلاد العراق وما يليها ، وجهز الحجاج بن يوسف الثقفى إلى مكة لقتال عبد الله بن الزبير ، وبعث معه أمانا لابن الزبير ومن معه إن أطاعوا ، فسار الحجاج فى جمادى الأولى من هذه السنة ونزل الطائف ، وكان يبعث الخيل إلى عرفة ، ويبعث ابن الزبير خيلا أيضا يقتتلون بعرفة ، فتنهزم خيل ابن الزبير وتعود خيل الحجاج بالظفر ، ثم كتب إلى عبد الملك يستأذنه فى دخول الحرم وحصر ابن الزبير ، ويخبره بضعفه وتفرق أصحابه ، ويستمده.
وكتب عبد الملك إلى طارق بن عمرو ، مولى عثمان ، يأمر باللحاق بالحجاج ، وكان عبد الملك قد أمر طارقا بالنزول بين أيلة ووادى القرى ، يمنع عمال ابن الزبير من الانتشار ، ويسد خللا إن ظهر له ، فقدم طارق المدينة فى ذى الحجة ، فى خمسة آلاف ، وكان الحجاج قد قدم مكة فى ذى القعدة ، وقد أحرم بحجة ، فنزل بئر ميمون ، وحج بالناس تلك السنة ، إلا أنه لم يطف بالكعبة ، ولا سعى بين الصفا والمروة ، لمنع ابن الزبير له من ذلك ، ولم يحج هو ولا أصحابه.