Peygamber efendimiz Mekke’den Medine’ye göç ederken Kuba’dan geçerken ibadetini yerine getirmek için Kuba Mescidini inşa etmiştir. İlk mescit Kuba Mescididir.
İlk muhacirler Medine’ye gelmeden önce Kuba’da mescit inşa etmişlerdir. Resulullah Kuba’ya ulaşınca burayı genişleterek Kuba Mescidi binası haline getirmiştir. Peygamberimiz burada kaldığı müddetçe ibadetini yerine getirmiştir. Mescidin ilk hali dört duvardandı. Arsa hazırlandıktan sonra Hz. Ebu Bekir, Ömer, Osman ve diğerlerinin taş koymalarını istemiştir. Peygamber efendimiz kıblenin Kabe’ye çevrilmesini isteyerek mescidin yeniden inşa edilmesini istemiştir.
Hz. Peygamber’in Medine’de bulunduğu zamanlarda cumartesi bazen de pazartesi günleri Mescid-i Kuba’ya giderek namaz kıldığı rivayet edilmektedir.