در سال 192 هجري هارون براي دفع رافع بن ليث شخصا در رأس نيروئي مجهز به طرف خراسان حرکت کرد، او قبل از اين که بغداد را ترک گويد، وصيت نامه‏اي نوشت و آن را به صورت عهدنامه‏اي به امضاء علما، فقهاء، امراي کشوري و لشگري و اعيان و اشراف رسانيد و در خانه‏ي کعبه معلق ساخت. هارون در اين عهدنامه مقرر کرد پس از مرگ او فرزندش امين به خلافت بنشيند و پس از وي فرزند ديگرش مأمون خلافت کند، و در صورت فوت مأمون فرزند ديگرش قاسم به خلافت بنشيند، هارون بقيه فرزندان خود را در خلافت سهيم نکرد و مقامي به آنان نداد. او مرکز کشورش را که شامل عراق، شام حجاز، يمامه، يمن عمان، آذربايجان، و طبرستان، مازندران و نواحي مرکزي ايران تاري را به امين داد و او را خليفه خود گردانيد، خراسان، سيستان، مکران، سند، و همه‏ي نواحي شرقي را به مأمون داد تا در آنجاها حکمراني کند و بعد از امين خلافت نمايد. صفحه 29@ از رقه در ساحل فرات تا اقصاي مغرب يعني شام، مصر، افريقيه و آسياي صغير را به قاسم داد و بعد از اين که کارها را مرتب کرد عازم خراسان شد، و گروهي از رجال و اعيان و فرماندهان را با خود همراه برد، از کساني که او را در اين سفر همراهي کردند محمد بن حسن شيباني قاضي القضاة و کسائي نحوي بودند. او قبل از اين که بغداد ترک کند لشگري براي جنگ با رافع بن ليث فرستاده بود و اينک خود نيز دنبال آن روان شد تا بر امور شخصا نظارت کند، مورخان نوشته‏اند هارون هنگام بيرون شدن از بغداد بيمار بود و در حالي که از بيماري در رنج بود عازم خراسان شده و طبيب خود را نيز همراه داشت. او هنگام سفر خراسان تصميم نداشت فرزندش مأمون را با خود به خراسان ببرد ولي مشاوران مأمون از جمله فضل بن سهل به مأمون گفتند: مصلحت در اين است که همراه پدرش به خراسان برود، مأمون از پدرش خواست او را با خود به خراسان ببرد، هارون نخست مخالفت کرد، ولي بعد موافقت نمود. هارون از بغداد بيرون شد و از طريق همدان، قزوين، ري، دامغان، بسطام، جاجرم، اسفرائن و نيشابور وارد طوس شد، او در اين شهرها توقف کرد و حاکمان مناطق طبرستان، گيلان و شهرهاي مرکزي ايران نزد او آمدند و او هم با ساز و برگ کامل و تجهيزات زياد و لشگريان فراوان به طوس رسيد.