هارون هنگامي که به طوس رسيد بيماريش شدت پيدا کرد و از حرکت بازماند به طوري که او را بستري کردند، در اين هنگام همه‏ي کارگذاران و رجال بزرگ دربار او در طوس حاضر و لشگريانش هم در ماوراء النهر با رافع بن ليث در حال جنگ بودند و هارون هم قصد داشت خود را به آنها برساند و در جنگ شرکت کند. يکي از روزها از شدت بيماري در حال اغماء بود. ناگهان خبر رسيد که رافع بن ليث دستگير شده و اکنون او را مي‏آورند، در اين هنگام رافع را به مجلس هارون [ صفحه 30] آوردند، او لحظه‏اي ديده‏گان خود را باز کرد و نگاهي به رافع نمود، بعد از آن به کارگذاران خود اشاره کرد او را بکشند. جلادان در مجلس حاضر شدند و در مقابل هارون و رجال حاضر در مجلس رافع را جلو آوردند و مانند قصابان که گوسفند را قطعه قطعه مي‏کنند بدن رافع را پاره پاره کردند. هنگامي که با اين وضع جان داد، هارون هم در همان لحظات جان سپرد و بدين وسيله يک خليفه عياش و خوشگذران درگذشت. نزديکان هارون بدن او را در همان جائي که درگذشته بود به خاک سپردند، او در خانه‏ي حميد بن قحطبه حاکم طوس درگذشت، هارون در سر راه خود به سمرقند در اين کاخ که يک ساختمان دولتي بود، منزل کرد، و ظاهرا اين ساختمان از بناهاي قبل از اسلام بوده و بنائي بسيار عظيم در يک باغي که وسعت آن يک ميل در يک ميل بوده قرار داشته است. بعد از مرگ هارون فضل بن ربيع وزير اعظم هارون فرماندهان لشگر و رجال کشور و سران قبائل را جمع کرد و گفت: بعد از اين امين در بغداد خليفه مي‏باشد و ما هم اکنون به طرف بغداد مي‏رويم، فضل بن ربيع سپس جبه‏ي مخصوص خلافت و عصا و مهر خاص خليفه را برداشت و عازم بغداد شد.