ثقل حال الإمام واشتد به الوجع فأخذ يعاني آلام الاحتضار فعلم أنه لم يبق من حياته الغالية إلا بضع دقائق فالتفت إلى أهله قائلا : أخرجوني الى صحن الدار أنظر في ملكوت السماء ؛ فحملوه الى صحن الدار فلما استقر به رفع رأسه الى السماء وأخذ يناجي ربه ويتضرع إليه قائلا : اللهم إني احتسب عندك نفسي فإنها أعز الأنفس عليّ لم أصب بمثلها اللهم آنس صرعتي وآنس في القبر وحدتي ؛ ثم حضر فى ذهنه غدر معاوية به ونكثه للعهود واغتياله إياه فقال : لقد حاقت شربته والله ما وفى بما وعد ولا صدق فيما قال  ؛ وأخذ يتلو آي الذكر الحكيم ويبتهل الى الله ويناجيه حتى فاضت نفسه الزكية الى جنة المأوى وسمت الى الرفيق الأعلى تلك النفس الكريمة التي لم يخلق لها نظير فيما مضى من سالف الزمن وما هو آت حلما وسخاء وعلما وعطفا وحنانا وبرا على الناس جميعا.

لقد مات حليم المسلمين وسيد شباب أهل الجنة وريحانة الرسول وقرة عينه فأظلمت الدنيا لفقده وأشرقت الآخرة بقدومه , وارتفعت الصيحة من بيوت الهاشميين وعلا الصراخ والعويل من بيوت يثرب وهرع أبو هريرة وهو باك العين مذهول اللب الى مسجد رسول الله (صلى الله عليه واله) وهو ينادي بأعلى صوته : يا أيها الناس مات اليوم حب رسول الله (صلى الله عليه واله) فابكوا  , وصدعت كلماته القلوب وتركت الأسى يحز في النفوس وهرع من في يثرب نحو ثوى الإمام وهم ما بين واجم وصائح ومشدوه ونائح قد نخب الحزن قلوبهم على فقد الراحل العظيم الذي كان ملاذا لهم وملجأ ومفزعا إن نزلت بهم كارثة أو حلت بهم مصيبة .