Pada 570 Masehi daerah  yang saat ini bernama Yaman berada di bawah kekuasaan Abyssinia (Etiopia  sekarang). Seorang Abyssinia bernama Abrahah diutus untuk menjadi  gubernur di sana. Ia membangun sebuah katedral megah di Shan’a untuk  Raja Negus dengan harapan dapat menyaingi Kakbah di Makkah sebagai  tempat penyembahan bagi seluruh bangsa Arab. Abrahah membangun katedral  itu dengan pualam yang diambil dari bekas istana Ratu Saba serta  menghiasinya dengan emas dan perak. 

Abrahah tidak merahasiakan sedikit pun niat menyaingi Makkah dan itu  tentu mengundang kemarahan suku-suku yang tersebar di seluruh Hijaz dan  Najd. Akhirnya, seseorang dari suku Kinanah, yang memiliki hubungan  nasab dengan Quraisy, pergi ke Shan’a dengan maksud meruntuhkan gereja  itu. Konon, berdasarkan riwayat yang dituturkan secara turun-temurun, ia  melakukan itu hanya dalam satu malam dan kembali ke rumahnya dengan  selamat.

Abrahah mendengar itu,  ia bersumpah akan membalas dendam dengan menghancurkan Kakbah sampai  rata dengan tanah. Ia pun menyiapkan pasukan besar-besaran untuk  menyerang Makkah dengan menempatkan seekor gajah di barisan terdepan