لما ضعفت قبضة بني إسماعيل في مكة، نحاهم أخوالهم الجراهمة، الذين آثروا المقام في مكة، بينا هاجر معظم بني إسماعيل، وقد احتفظ الجراهمة بسدانة البيت، ولقبوا أنفسهم بالملوك، وممن يذكرهم مؤرخو العرب من الجراهمة، مضاض الجرهمي الأصغر الذي نازعه بعض أهل مكة السلطان فانتصر عليهم، ولا يذكر المؤرخون شيئًا جديرًا بالذكر إلا أن جرهمًا بغت مكة واستحلوا حرمة البيت، وظلموا من دخل مكة من الحجاج وغيرهم، وأكلوا مال الكعبة الذي يُهدى إليها، وظهر فيهم الفسق والفساد حتى كانوا يأتون الفحشاء في جوف الكعبة، وما زال أمرهم يضعف حتى تمكنت خزاعة من التغلب عليهم، والاستيلاء على مكة. وقبل أن يبرح آخر ملوكهم — وهو عمرو بن الحارث بن مضاض — مكة يقال إنه رمى في بئر زمزم كل تحفه وذخائره، ومن بينها غزالتان من الذهب وسيوف ودروع سنعود إلى الكلام عنها في الفقرات التالية، كما تذكر بعض الروايات أنه دفن الحجر الأسود أيضًا، ثم طم البئر على ما دفن. وتذكر بعض كتب الأدب والتاريخ أشعارًا يتجلى فيها حزن الجراهمة على ما فقدوا من ملك وجاه، وأغلب الظن أنها موضوعة. أما أين ذهب الجراهمة بعد طردهم من مكة فذلك ما لا نعرفه، وإن كان بعض المؤرخين يذكر أنهم انصرفوا إلى اليمن، وهذا ما لا نستطيع أن نجزم به.