Disebut Masjid Nabawi kerana Nabi Muhammad S.A.W. selalu menyebutnya dengan kalimah, " Masjidku ini", pada setiap kali baginda menerangkan tentang sebuah masjid yang sekarang berada di pusat kota Madinah. Nabi bersabda," Sembahyang di masjidku ini lebih utama daripada sembahyang seribu kali di masjid lain kecuali Masjidil Haram".

Dalam satu riwayat lain, Nabi bersabda," Barang siapa sembahyang di masjid 40 waktu tanpa terputus, maka ia pasti selamat dari neraka dan segala siksa dan selamat dari sifat munafik".

Masjid ini didirikan oleh Nabi S.A.W. dan sahabat-sahabat baginda pada tahun pertama hijrah (622 M) seluas 1050 meter persegi, iaitu di sisi di sebelah barat rumah baginda yang sekarang rumah itu menjadi makam baginda dan masuk dalam bangunan masjid.

Berziarah ke masjid Nabawi ini adalah masyru' dan dikira termasuk ibadat. Penyataan ini adalah sesuai dengan sabda Nabi yang berbunyi; bermaksud," Janganlah kau mementingkan kepergian kecuali kepada tiga masjid, iaitu Masjidil Haram, Masjidku ini dan Masjid Aqsa'.