تمام مشاغل مهم دولتی در دست اطرافیان یحیی بود و همیشه بیست و پنج نفر از برمکیان مهمترین مشاغل لشکری و کشوری را بعهده داشتند. شاهان دیگر کشورها برای آنها هدایایی میفرستادند و احترامی که برای آنها قایل بودند برای خلیفه معمول نمیداشتند و این موجب تحقیر هارون میگردید. قدرت و ثروت افسانه ایافسانهای برمکیان خود مزید علتی بر نابودی و سقوط آنان شد چرا که قدرت و ثروت بی حد برامکه رشک خلیفه و دیگر عناصر صاحب نفوذ و مخالفان و دشمنان آنان را برانگیخت و باعث شد دشمنانشان با بد گویی از ایشان و بدگمان کردن خلیفه نسبت به ایشان آنان را از عرصه کنار بزنند. مخالفان برامکه اندک اندک در دربار خلیفه قدرت و نفوذی به دست آوردند اشخاصی چون [[فضل بن ربیع]]، [[علی بن عیسی بن ماهان]]، [[زراره بن محمد]]، [[پسران قحطبه]]، [[جعفر بن عبدالله هاشمی]] و [[ابو ربیعه رقی]] و بسیاری دیگر که برخی کینههای دیرینه از برامکه بر دل داشتند و توانستند از نفوذ خود در بدگمان کردن خلیفه نسبت به آنها استفاده کنند. از جمله برامکه را متهم به [[زندقه]] و حمایت از زنادقه میکردند. همچنین هارون الرشید حمایت برمکیان از یحیی بن عبدالله علوی و پسرش [[موسی بن یحیی]] که در [[دیلم]] داعیه امامت داشتند را نوعی خیانت از جانب آنها در حق خویش تلقی میکرد. همچنین جعفر را با پسر [[عبدالملک بن صالح]] که داعیه خلافت داشت مرتبط میدانست. رقابت دیرینه عنصر اعراب و ایرانی نیز در سقوط ایشان بی تأثیر نبود. از طرف دیگر ماجرای جعفر و [[عباسه]] نیز مزید بر علت خشم هارون نسبت به برمکیان شد. در حقیقت سبب اصلی سقوط ایشان ارتباط جعفر بودهاست با عباسه خواهر خلیفه و دیگری نارضایتی هارون از قدرت و نفوذ بیاندازه ایبیاندازهای که برامکه به دست آورده بودند. اقتدار برمکیان در واقع نمایش قدرت و نفوذ عنصر ایرانی در دستگاه [[خلافت عباسی]] بود و این چیزی نبود که اعراب و شخص [[خلیفه]] آن را برتابند. سرانجام هارون در بازگشت از سفر حج در شب آخر محرم سال ۱۸۷ هجری جعفر را به کام مرگ فرستاد و سر از تن او جدا کرد. همان شب خانههای برامکه و یاران و دست پروردگانشان را نیز محاصره و جز محمد بن خالد همه برامکه را دستگیر و اموالشان را مصادره کرد و بسیاری از آنها را کشت و بسیاری دیگر را به طمع گنجینههای برامکه به زیر شکنجه گرفت. بعد از سقوط برامکه ضعف و فساد دولت عباسیان را دربردر بر گرفت و هارون از این اقدام خود ابراز تأسف کرد. بعدها مأمون به بقایای برامکه توجه کرد لیکن آنها دیگر حشمت و قدرت قبلی خود را بازنیافتند.<ref>{{پک|نام خانوادگی سمنانی|سال ۱۳۷۶|ک=کتاب هارون الرشید و مروری بر کارنامه امویان و عباسیان|ص=صفحه ۱۴۱–۱۶۵ و صص۱۴۱–۱۶۵-۲۰۹–۲۳۹}}</ref><ref>{{پک|نام خانوادگی خضری|سال ۱۳۸۴|ک=کتاب تاریخ خلافت عباسی از آغاز تا پایان آل بویه|ص=صفحه ۵۸–۶۰صص۵۸–۶۰}}</ref><ref>{{پک|نام خانوادگی زرین کوب|سال ۱۳۸۳|ک=کتاب تاریخ ایران بعد از اسلام|ص=صفحه ۴۴۱–۴۴۶صص۴۴۱–۴۴۶}}</ref>