وفي الوقت نفسه فقدّ استغل قسطنطين ملك الروم انتفاضة الجزيرة على أبي العباس ودخل مدينة ملاطية، وقاليقلا، وانتصر على المسلمين. ولاية الشام في عهد أبو العباس السفاح: كان عبد الله بن علي يتتبع مروان بن محمد من حرّان، إلى منبج، فقنسرين، فحمص، فبعلبك، فكان كلما وصل عبد الله بن علي إلى مدينة استقبله أهلها، وبايعوه، ودخلوا في طاعته، فلما وصل إلى دمشق حاصرها وقادته، وعليها الوليد بن معاوية بن مروان وهو ختن مروان، عنده ابنته أم الوليد، ففتحت دمشق أبوابها في العاشر من رمضان عام (132 هجري). سبب تسمية ابو العباس السفاح بهذا الاسم. وقتل الوليد بن معاوية، وذهب عبد الله بن علي إلى الكسوة فالأردن فبايعوه أهلها، ثم سار إلى فلسطين فنزل بيسان، ثم مرج الروم، ثم نهر أبي فُطْرُس، وجاء كتاب أبي العباس إلى عبد الله بن علي أن يوجّه أخاه صالح بن علي ليُلاحق مروان بن محمد ويلتفت هو إلى أمور الشام. وبقي بعدها صالح بن علي أميراً على فلسطين. أما عبد الله بن علي فقد ذهب إلى محاربة حبيب بن مرة المري في منطقة البلقاء، والبَثنيّة، وحوران، وهو أحد قادة مروان. وفي هذه الأثناء ذهب أبو الورد إلى مجزأة بن الكوثر بن زفر بن الحارث الكلابي بقنسرين، وقد كان من أصحاب مروان وقواده، فلما هزم مروان وجاء عبد الله بن على لقيه أبو الورد وبايعه ودخل في طاعته.
انتقال الخلافة إلى البيت العباسي أوصى إبراهيم يوم سجنه بنقل الإمامة إلى أخيه عبد الله أبي العباس، وأن يرتحل هو وأهله من الحميمة إلى الكوفة كي يحتموا من بطش الأمويين، فنفّذوا أمره ونزلوا عند القائم على الدعوة في الكوفة وهو "أبو سلمة الخلّال"، فكتم أمرهم وحرص على نقلهم من بيت لآخر كي لا يُكشف سرّهم، لكنه رأى إعادة الإمامة إلى العلويّين فبادر بالكتابة إلى ثلاثة رجال منهم يطلب منهم تولّي أمر المسلمين، وهم: جعفر الصادق بن محمد الباقر، عبد الله المحض بن حسن المثنّى وعمر الأشرف زين العابدين، لكنهم رفضوا. وحين علم الناس بموت إبراهيم الإمام، دخل النقباء على أبي العباس وسلّموا عليه بالخلافة، وكان ذلك يوم الجمعة 12 ربيع الثاني سنة 132هـ، فخرج إلى صلاة الجمعة وخطب في الناس وصلّى بهم، ثم دفع أخاه أبا جعفر ليستلم البيعة، وبهذا عيّن نفسه أميرًا للمؤمنين وخليفة لرسول الله ورضي به أهل الكوفة وخراسان، ولُقّب بالسفاح لأنه قال في خطبته: "يا أهل الكوفة أنتم محل محبتنا ومنزل مودتنا، أنتم الذين لم تتغيروا عن عليّ ذلك ولم يُثنكم عنه تحامل أهل الجور عليكم حتى أدركتم زمننا وأتاكم الله بدولتنا فأنتم أسعد الناس بنا وأكرمهم علينا وقد زدتكم في أعطياتكم مئة درهم فاستعدوا فأنا السفاح المبيح والثائر المبير".
وكيف جاز أن يقعَ في ذلك الجاحظُ في روايته، وهو أدقُّ العلماء رواية، وهو الذي ردَّ أكثرَ رواية الهيثم وابن الكلبي وغيرهما من أصحاب الأخبار؟!