Allah SWT telah menjelaskan dalam surat Al-Baqarah ayat 144:
"Sungguh kami (sering) mukamu menengadah ke langit, maka sungguh kami akan memalingkan kamu ke kiblat yang kamu sukai. Palingkanlah mukamu ke arah Masjidil Haram, dan dimana saja kamu berada, palingkanlah mukamu ke arahnya. Dan sesungguhnya orang-orang (Yahudi dan Nasrani) yang diberi Al- Kitab (Taurat dan Injil) memang mengetahui, bahwa berpaling ke Masjidil Haram itu adalah benar dari Tuhannya; dan Allah sekali-kali tidak lengah dari apa yang mereka kerjakan. "
Ketika Rasulullah SAW tiba di Madinah, beliau melaksanakan Shalat dengan Arah kiblat ke Baitul Maqdis. Kondisi ini menjadikan penduduk Yahudi Madinah merasa bangga dan bergembira. Di sisi lain Rasulullah SAW lebih senang jika kiblat di arahkan ke Baitullah. Kemudian Rasulullah pun memohon kepada Allah Swt agar mendapat wahyu darinya. Kenapa Rasulullah SAW memohon agar kiblat dipindahkan ke Baitullah?Sebab hal ini dikhawatirkan umat Islam meski menghadap ke arah Baitul Maqdis saat melaksanakan ibadah Sholat, tempat orang-orang Yahudi dan hal ini menjadi bahan ejekan orang-orang Yahudi terhadap orang Islam.
Setelah 16 sampai 17 bulan Rasulullah SAW shalat dengan menghadap ke arah Baitul Maqdis, barulah beliau mendapatkan perintah dari Allah SWT untuk menghadap ke arah Baitullah, Ka'bah.
Setelah turun ayat yang memerintahkan untuk menghadap ke Baitullah, maka golongan Yahudi mencoba melakukan propaganda dengan mengatakan, " apakah balasan bagi orang yang mati sedangkan mereka telah shalat menghadap ke arah Baitul Maqdis, apakah shalat mereka diterima Allah SWT?." Demikian sifat jahat kaum Yahudi yang selalu menyakiti, seluruh umat Islam, sehingga Allah Swt memberi gambaran dalam surat Al-Baqarah, ayat 142,: "orang-orang yang kurang akalnya diantara manusia akan berkata, " apakah yang memalingkan mereka (umat Islam) dari Kiblat nya (Baitul Maqdis) yang dahulu mereka telah berkiblat kepadanya? " Katakanlah: "kepunyaan Allah-lah timur dan barat; Dia memberi petunjuk siapa yang dikehendaki-Nya ke jalan yang lurus."
Para Ulama berbeda pendapat berkenaan dengan sebab turunnya ayat yang memerintahkan Rasulullah SAW agar menghadap ke Baitullah, dan dimana beliau berada saat ayat ini .
Betikut pendapat para ulama .
1. Ibnu Sa'ad dalam kitab At-Tabaqat meriwayatkan, bahwa Rasulullah Saw sedang melewati Ummu Bishr bin Al-Bara bin Ma'ruf Rda, di kawasan Bani Salamah. Beliau telah menyediakan jamuan untuk Rasulullah SAW dan para shahabat. Ketika tiba waktu shalat Zuhur, Rasulullah Saw berada di Masjid perkampungan tersebut. Saat beliau melaksanakan shalat dan masuk rakaat kedua, turunlah wahyu dari Allah Swt yang memerintahkan supaya memalingkan kiblat ke arah Baitullah kesudut yang bertolakbelakang dengan putaran yang mencapai 180 derajat dan beliau tetap meneruskan shalat beliau.
2. Imam Al-Bukhari meriwayatkan dari Al-Bara' bin 'Aziz Ra, bahwa shalat pertama Rasulullah Saw beralih kiblat ke Baitullah adalah pada shalat Ashar.
3. Imam Al-Bukhari meriwayatkan dari Abdullah bin Umar Ra, ketika orang melaksanakan shalat subuh di Masjid Quba, Tiba-tiba datang berita yang menjelaskan bahwa Rasulullah Saw telah diperintahkan untuk menghadap ke arah Ka'bah. Merekapun mengikuti dan menghadap ke arah Ka'bah.
Beberapa riwayat ini menjelaskan pristiwa pertukaran kiblat. Berdasarkan pada beberapa Hadits Shahih, Rasulullah Saw shalat bersama para sahabat ke arah Ka'bah setelah turunnya ayat yang memerintahkan agar menghadap ke arab Baitullah.
Al-Hafiz Ibnu Hajar berpendapat, "Setelah melakukan penelitian atas riwayat yang ada, dapat dikatakan bahwa shalat pertama ke arah Ka'bah adalah shalat di Bani Salamah (Qiblatain), yaitu pada shalat Dzuhur. Shalat pertama menghadao kiblat di Masjid Nabawi dilakukan pada shalat ashar. Adapun shalat subuh dilakukan di Masjid Quba.
Sumber: Ensiklopedia Peradaban Islam Jilid 2.