مأمون با انتصاب علی بن موسی به جانشینیاش، هرچند توانست کمی از مشکل علویان برای حکومتش را حل کند، اما نتوانست به باقی اهدافش دستیابد. حتی این انتصاب سبب شد تا مورد غضب حزب مخالفش در [[بغداد]] قرار بگیرد و از مقام خلافت عزل شود.<ref>{{پک|Donaldson||||۱۹۳۳|ف=|ک=The Shi'ite Religion|زبان=en|ج=|ص=161–170|ref=left-to-right}}</ref> بنابر گزارشها، خاندان سهل توانستند برای مدتی امور را مدیریت کنند تا شدت اوضاع عراق را پنهان نگاه دارند و مأمون را به این باور رسانند که ابراهیم بن مهدی صرفاً بهعنوان فرماندارش عمل میکند،<ref>{{پک|Bayhom-Daou|2009|ف=ʿAlī Al-Riḍā|ک=Encyclopaedia of Islam|زبان=en}}</ref><ref>{{پک|Madelung|1985|ف=ʿAlī Al-Reżā|ک=Iranica|زبان=en}}</ref> و این علی بن موسی بود که بدون حُبّ و بغض، چشم مأمون را نسبت به این موضوع باز و اصرار کرد که به بغداد برود و حضورش سبب بازگشتِ آرامش و صلح به آنجا شود.<ref>{{پک|Lewis|1986|ف=ʿAlī Al-Riḍā|ک=Encyclopaedia of Islam|زبان=en}}</ref><ref>{{پک|Madelung|1985|ف=ʿAlī Al-Reżā|ک=Iranica|زبان=en}}</ref><ref>{{پک|Bayhom-Daou|2009|ف=ʿAlī Al-Riḍā|ک=Encyclopaedia of Islam|زبان=en}}</ref> این ارزیابیِ وضعیت، از سوی چند تن از فرماندهانِ سپاه مأمون پشتیبانی شد و مأمون تصمیم گرفت به عراق سفر کند. فضل بن سهل که هدفش حفظ حکومت در شرق بود، استعفای خویش را ارائه کرد و با استدلال شدت تنفرِ عباسیان نسبت به خود، از خلیفه خواست تا او را بهعنوان فرماندارِ [[خراسان بزرگ]] منصوب کند. مأمون دیگربار بر کمالِ اعتمادش به او تأکید کرد و از او خواست تا نامهای دیگر با مُهر و نام خلیفه در تأیید امتیازات استثناییِ خود بنویسد. این نامه در [[صفر|صَفَرِ]] سال ۲۰۲ ه.ق مهر و امضا، و بهطور رسمی از سوی علی بن موسی نیز تأیید شد. پس از آن، برای انتشار در سراسر امپراتوری فرستاده شد. در دوم [[شعبان|شَعبانِ]] سال ۲۰۲ ه.ق، شش ماه پس از استعفای [[فضل بن سهل سرخسی|فضل بن سهل]] از وزارت، هنگامی که مأمون بههمراه ولیعهد و دربار، قصدِ غرب کرده بود، فضل در سرخس توسط چند تن از فرماندهان سپاه با ضربات چاقو در حمام کشته شد.<ref>{{پک|Madelung|1985|ف=ʿAlī Al-Reżā|ک=Iranica|زبان=en}}</ref><ref>{{پک|کوپرسون|۱۳۹۶|ک=مأمون خلیفه عباسی|ص=۸۰}}</ref> گویا مرگ فضل با واکنشهایی همراه بود و عدهای از درون سپاه مأمون به قصد خونخواهی، اعتراضاتی کردند که با دعوت علی بن موسی به آرامش سپاه همراه بود.<ref>{{پک|اکبری|۱۳۸۴|ک=تاریخ حکومت طاهریان از آغاز تا انجام|ص=۱۲۸}}</ref>
دو روز بعد،بعد وقتی کاروان مأمون به [[توس]] رسید، علی بن موسی بیمار شد و درگذشت. منابع شیعه دلیل بیماری علی بن موسی را مسمومیت بر اثر زهر دانستهاند.<ref name="al-Qarashi2">{{پک|al-Qarashi||||2012|ف=|ک=The life of Imām 'Ali Bin Mūsā al-Ridā|زبان=en|ج=|ص=|ref=left-to-right}}</ref> به گزارش بیهم دائو، بیشتر منابع نزدیک به واقعه –— از جمله منابع [[شیعه دوازدهامامی|امامیه]] –— از دلایل طبیعی به عنوان علت درگذشت علی بن موسی یاد کردهاند و در گزارشهایی که به قتل وی دلالت دارند، اشارهای مبنی بر دست داشتن مأمون در آن نکردهاند. اما اکثر منابع امامیه از قرن چهارم هجری به بعد و به تبع آنها، منابع اهل سنت، نظریه به قتل رسیدن علی بن موسی الرضا به دستور مأمون و بر اثر مسمومیت،مسمومیت رسمیتمطرح یافتشد.<ref>{{پک|Bayhom-Daou|2009|ف=ʿAlī Al-Riḍā|ک=Encyclopaedia of Islam|زبان=en}}</ref> بنابر معتبرترین گزارشها، درگذشت علی بن موسی در آخرین روزِ صفر سال ۲۰۳ ه.ق اتفاق افتادهاست. تاریخهای دیگری در همان محدودهٔ ماه صفر برای این واقعه ذکر شدهاست. خلیفه از گروهی از علویان و خویشاوندان علی بن موسی الرّضا از جمله عمویش، محمد بن جعفر، درخواست کرد تا پیکر علی بن موسی را بررسی و تأیید کنند که او به مرگ طبیعی درگذشته است و دستور داد که پیکرش در کنار قبر پدرِ خویش، هارون، در منزل [[حمید بن قحطبه طایی|حُمَیْد بن قَحْطَبهٔ طایی]] در [[سناباد|سَناباد]] در نزدیکیِ [[نوغان]] به خاک سپرده شود. مأمون غم و اندوهِ بسیاری از خود نشان داد و بنابر گزارشها بدون [[عمامه|عَمامه]] در مراسمِ تشییع پیکر حاضر شد و بهمدت سه روز در آنجا به عزاداری پرداخت. بااینحال بسیاری از منابع، او را متهم به دست داشتن در مسمومیتِ علی بن موسی الرّضا دانستهاند. درگذشت ناگهانیِ وزیر و ولیعهد که زنده بودنشان سبب میشد تا آشتی با عباسیانِ مخالف در بغداد ناممکن باشد، این احتمال را تقویت میکند که مأمون در این مرگها دست داشتهباشد. البته این احتمال بدین معنا نیست که غم و اندوهش برای علی بن موسی و احساسات و وابستگیاش به او، لزوماً از روی ریاکاری یا ساختگی بود، بلکه میتواند نشاندهندهٔ غلبهٔ محاسبات سردِ سیاسی بر احساسات و ایدهآلهای شخصی او برای تثبیت منصب خلافتش باشد.<ref>{{پک|Madelung|1985|ف=ʿAlī Al-Reżā|ک=Iranica|زبان=en}}</ref><ref>{{پک|Bayhom-Daou|2009|ف=ʿAlī Al-Riḍā|ک=Encyclopaedia of Islam|زبان=en}}</ref> بهنوشتهٔ طَیِّب الْحِبری در ''[[تاریخ جدید اسلام کمبریج]]''، وی در شرایط مشکوکی در اثر مسمومیت با زهر کشته شد.<ref>{{پک|El–Hibri|2010|ف=The Empire in Iraq|ک=The New Cambridge History of Islam|ص=286|زبان=en}}</ref> منابعی از اهل سنت نیز درگذشت علی بن موسی الرّضا را بهخاطر بیماری ولی بر اثرِ خوردن انگورِ بسیار دانستهاند. نخستین گزارش در اینباره از سوی طبری نقل شدهاست. در بین منابع تاریخی اهل سنت، بعضی منابع از جمله ''[[تذکره الخواص|تَذکِرَةُ الْخَواصِّ]]'' [[ابن جوزی]]، ''مِرْآةُ الْجَنانِ'' [[عبدالله یافعی|یافعی]]، ''[[الصواعق المحرقه|اَلصَّواعِقُ الْمُحْرِقَة]]'' [[ابن حجر هیتمی|ابن حَجَر هِیْتَمی]] و ''وَسیلَةُ الْخادم اِلَی الْمَخدوم'' [[فضل بن روزبهان خنجی|فضل بن روزبِهان خُنْجی]] به مسمومیتِ علی بن موسی الرّضا در طوس و درگذشتش بر اثر این مسمومیت اشاره کردهاند، اما به شیوهٔ مسمومیت و عامل آن اشارهای ننمودهاند. در کنار این گزارشها، دانشمندانی از اهل سنت، علاوه بر اعلام مسمومیت بهعنوان سبب درگذشت علی بن موسی، عاملِ این مسمومیت را نیز مأمون معرفی دانستهاند، از جملهٔ آنان میتوان به دیدگاه [[تقیالدین مقریزی|مَقریزی]] در ''[[المقفی الکبیر|اَلْمُقَفَّی الْکَبیر]]''،<ref>{{پک|مقریزی|۱۴۲۷|ک=المقفی الکبیر|ج=۴|ص=۱۶۴}}</ref> [[ابن حبان|ابن حِبّان]] در ''[[الثقات|اَلثِّقات]]''،<ref>{{پک|ابن حبان|۱۴۰۲|ک=الثقات|ج=۸|ص=۴۵۶–۴۵۷}}</ref> [[صلاحالدین صفدی|صَفْدی]] در ''[[الوافی بالوفیات|اَلْوافی بِالْوَفَیات]]''،<ref>{{پک|صفدی|۱۴۰۱|ک=الوافی بالوفیات|ج=۲۲|ص=۲۵۱}}</ref> ابوالفرج اصفهانی در ''مقاتل الطالبین''،<ref>{{پک|اصفهانی|۱۴۱۹|ک=مقاتل الطالبیین|ص=۴۵۴}}</ref> [[عبدالسلام ترمانینی|تِرمانینی]] در ''[[احداث التاریخ الاسلامی بترتیب السنین|اَحْداثُ التّاریخِ الْاِسلامیِّ بِتَرتیبِ السِّنینَ]]''<ref>{{پک|ترمانینی|۱۴۰۸|ک=احداث التاریخ|ج=۱|ص=۱۱۶۹}}</ref> و [[سلیمان بن ابراهیم بن قندوزی|قُنْدوزی]] در ''[[ینابیع الموده|یَنابیعُ الْمَوَدَّة]]''<ref>{{پک|قندوزی|۱۴۲۲|ک=ینابیع المودة|ج=۳|ص=۱۲۱}}</ref> اشاره کرد.