مرض عبد الملك مرضه الذي هلك فيه وكان غير آمن ولا مطمئن فقد أخذت تراوده أعماله المنكرة وما اقترفه من الظلم والجور وسفك الدماء بغير حق في سبيل الملك والسلطان وأخذ يضرب بيده على رأسه ويقول : وددت أني اكتسبت قوتي يوما بيوم واشتغلت بعبادة ربي عز وجل وطاعته ؛ وعهد بالخلافة من بعده إلى ولده الوليد وأوصاه بالحجاج خيرا وقال له : وانظر الحجاج فأكرمه فانه هو الذي وطأ لكم المنابر وهو سيفك يا وليد ويدك على من ناواك فلا تسمعن فيه قول أحد وأنت إليه أحوج منه إليك وادع الناس إذا مت إلى البيعة فمن قال برأسه هكذا فقل : بسيفك هكذا ... .

ومثلت هذه الوصية اندفاعاته نحو الشر حتى في الساعة الأخيرة من حياته فقد أوصى ولي عهده بالجلاد الحجاج الذي أغرق البلاد في الثكل والحزن والحداد كما أوصى بالقتل لكل من تحدثه نفسه بعدم الرضا بالحكم الأموي ولم يبق بعد هذه الوصية إلا لحظات ثم توفى وكانت وفاته في يوم الأربعاء في النصف من شوال سنة 86هـ وقد سئل عنه الحسن البصري فقال : ما أقول في رجل كان الحجاج سيئة من سيئاته .