Mata air zam-zam muncul ketika putra Nabi Ibrahim, Nabi Ismail, haus dan menangis di gurun bersama ibunya yakni Hajar. Ini sejalan dengan catatan dokumen yang menyatakan bahwa air zam-zam pertama kali muncul di tahuk 1910 SM, ketika Nabi Ismail berada di Mekah.

Berdasarkan catatan ini, artinya air zam-zam sudah ada selama 40 abad dan airnya tidak pernah habis, Sahabat 99. Beberapa tahun setelah kemunculan pertamanya, Nabi Ibrahim datang ke lokasi mata air dan langsung bersujud kepada Allah SWT. Beliau lalu membangun dan meninggikan kembali Baitullah dibantu anaknya Ismail. Kemudian menjadikan tempat tersebut sebagai tempat ibadah kepada Allah Swt.

Sumur tersebut berada di kawasan yang kini menjadi Masjidil Haram, tepatnya sebelah tenggara Ka’bah. sejarah sumur air zam-zam Sumur zamzam kurang lebih terletak 11 meter dari Ka’bah yang memiliki kedalaman 42 meter. Menurut cerita yang sahih, sumur ini dapat menyedot air sebanyak 11-18,5 liter per detik. Sehingga dapat menghasilkan 660 liter air per menit dan 39.600 liter perjamnya.

Dari mata air ini, ada celah ke arah Hajar Aswad dengan panjang 75 cm, dengan tinggi 30 cm yang juga menghasilkan air sangat banyak. Dahulu di atas sumur zam zam terdapat sebuah bangunan, tetapi kini bangunan tersebut mengalami pembongkaran untuk meluaskan tempat tawaf. Oleh sebab itu, ruang minum air zam zam berpindah ke ruang bawah tanah, di bawah tempat tawaf, dengan 23 anak tangga. Ruangan tersebut kemudian terbagi menjadi dua, untuk laki-laki dan perempuan. Di sisi ruang laki-laki ada 220 keran air minum, sementara di ruang perempuan ada 130 keran.