Hajar aswad sebagaimana ka'bah telah melewati sejarah yang panjang selama ribuan tahun. Sejarah hajar aswad yang tercatat dimulai saat Ibrahim as diperintahkan Allah swt untuk membangun kembali ka'bah. Sekembalinya dari Syam, Ibrahim diperintah Allah untuk membangun ka'bah. Ia memenuhi perintah itu dibantu putranya, Ismâ’il as. Saat hampir selesai mengerjakannya, Ibrâhim as merasa ada yang kurang pada Ka’bah. Kemudian ia memerintahkan putranya, “Pergilah engkau mencari sebuah batu lagi yang akan aku letakkan di Ka’bah sebagai penanda bagi manusia.” Ismâ’il as mematuhi perintah ayahnya. Ia pergi dari satu bukit ke bukit lain untuk mencari batu yang paling baik. Ketika sedang mencari, malaikat Jibril datang pada Ismâ’il as dan memberinya sebuah batu yang cantik. Dengan senang hati ia menerima batu itu dan segera membawa batu itu untuk diberikan pada ayahnya. Ibrâhim as pun gembira dan mencium batu itu beberapa kali.
