Ada sejumlah pendapat yang berbeda dari ulama. Ulama Ibnu Katsir, Ath-Thabari, dan Al-Qurthubi menyebutkan bahwa Masjid Al-Aqsa pertama kali dibangun oleh malaikat atas perintah Allah SWT. Namun, sebagian besar ulama juga meyakini bahwa sosok pertama yang membangun Masjid Al-Aqsa adalah Nabi Adam AS yang dilanjutkan oleh Nabi Ibrahim AS.

Setelah Nabi Ibrahim AS, Nabi Sulaiman AS membangun Masjid Al-Aqsa dengan bangunan yang besar, kuat, dan indah. Namun, Masjid Al-Aqsa yang dibangun Nabi Sulaiman AS roboh setelah 370 tahun akibat diserbu bangsa Babilonia.