Lebih kurang pada pertengahan kurun yang kesembilan belas, pada zaman Penghulu Mo’min bin Abdullah dahulu,di kampung Paya Rumput Tengah di tepi sawah, pada arah sebelah hilir rumah Abdullah bin Rahmat,berhampiran dengan sebatang pokok beruas besar telah sedia ada sebuah masjid kayu yang sederhana besarnya.

          Ahli-ahli jemaah ini kononnya ialah orang-orang Paya Rumput, sepepak-sepepak orang Sungai Udang,serata-serata Pantai Tanah Merah dan Pantai Kundur,orang Tangga Batu dan Paya Luboh serta termasuk juga orang-orang dari Lendu,kerana kononnya Lendu pada masa itu belum ada masjid lagi.

          Pada zaman Penghulu Hasan,ahli-ahli jemaah ini telah sebulat suara memindahkan masjid ini ke Batu 10 ¼, sebelah kiri jalan ke Paya Rumput di tepi sungai . Agaknya tujuan memindahkan masjid ini kemari ialah kerana nak mendekatkan sedikit perjalanan jemaahnya yang dari pantai itu. Semua ahli jemaah menggunakan sungai itulah sebagai kolah untuk mengambil air sembahyang. Sungai ini pada masa itu kononnya dalam,banyak buaya di dalamnya. Imam masjid ini ialah Imam fakih dan Bilalnya , Bilal Mohd Ali.

          Tidak berapa lama kemudian ahli-ahli jemaah dari Sungai Udang telah sedar yang kampung Sungai Udang telah ramai penduduknya dan telah mencukupi, bahkan lebih satu Jumaat laki-laki nya yang mukallaf, begitu juga orang-orang Tangga Batu telah sedar, jika mereka bersatu dengan orang-orang Paya Lubuh,dia juga boleh mengadakan masjid bersendirian,demikian jugalah ahli-ahli jemaah yang dari pantai,oleh yang demikian ahli-ahli jemaah masjid itu pun berpecah,masing-masing puak yang disebutkan tadipun membangunkan masjid sendiri.Pada masa itu tinggallah masjid ini untuk jemaah orang Paya Rumput dan Alor Gajah sahaja.

          Sebagaimana yang disebutkan tadi kolah atau kolam tempat mengambil wuduk masji ini, ialah sungai tadi yang dalam dan terdapat banyak buaya, banyak kali orang-orang tersua dengan buaya-buaya.

          Oleh itu mereka pun memindahkan masjid ini ke seberang sawah arah ke Paya Rumput iaitu disebelah kiri jalan ke Paya Rumput lepas daripada bukit yang kecil di tepi sawah itu. Manakala masjid ini pindah ke Paya Rumput,tinggallah untuk jemaah Paya Rumput sahaja, orang-orang Tangga Batu , Batu 10 atau Alor Gajah telah membangunkan pula masjidnya sendiri di Batu 9 ¾, iaitu di tapak masjid yang ada sekarang.

          MASJID SUNGAI UDANG yang dibina oleh orang-orang tua dahulu ialah masjid bertap,berdinding dan berlantaikan tanah sahaja. Tempatnya pada arah masjid yang ada sekarang ini, pada pangkal jalan masuk ke Paya Rumput. Pada zaman Penghulu Had bin Kulub Lendir masjid yang berlantaikan tanah ini telah digantikan dengan masjid kayu yang bertiang dan berlantai papan,tempatnya di tapak lama juga.

          Pada zaman Penghulu Maarus bin Dualim dalam tahun 1926 ketika di merata-rata tempat telah didirikan orang masjid batu , betul-betul pada ketika itu harga getah sedang tinggi harganya , di sana sini adalah masjid baharu seperti cendawan tumbuh, maka Sungai Udang pun tidaklah ketinggalan daripada bermuafakat membina masjid barunya. Muafakat telah dibulatkan tiap-tiap serumah beryuran sebanyak RM 75.00 sementara masjid tersebut dirobohkan untuk membina masjid baharu, ahli-ahli jemaah bersembahyang di padang sawah yang berhampiran. Adapun harga masjid ini lebih kurang RM 7,000.00 keempat-empat batang tiang serinya dihadiahkan oleh Penghulu Sulong bin Mansor  yang pada ketika itu menjadi Naib Penghulu Parit Sulong Batu Pahat. Istiadat menegakkan tiang seri masjid ini telah diadakan pada 16.5.1927 dengan jamuan nasi minyak dan menyembelih seekor kerbau. Ada pun tunggak yang membina masjid ini ialah Penghulu Maarus bin Dualim, Mungkim Haji Jailani bin Ali,Imam Amin dan Imam Othman bin Jaamat. Adapun pegawai-pegawai masjid pada ketika itu ialah Imam Sulong Jaamat , Khatib Long bin Awal , Mungkim Haji Jailani bin Ali dan Bilal Abdul bin Sarong. Kadi masa itu ialah Kadi Haji Sidek bin Ali.

          25 tahun kemudian iaitu pada tahun 1952, beberapa kerosakan masjid ini dijumpai, lalu dengan sebulat suara ramai , kerosakan itu diperbaharui dengan belanja hampir RM 5,000.00.

          Pada tahun 1959 sekali lagi didapati kebocoran,lantai masjid merkah dan pecah dan banyak kerosakan lain, maka keputusan dibuat untuk diperbaiki seluruhnya.

          Pada tahun 1960 bantuan daripada Pejabat kebajikan Masyarakat Kuala Lumpur sebanyak RM 10,000.00 didapati, kerja membaiki dimulakan pada bulan Mac dan siap pada akhir bulan Mei tahun yang sama. Sebuah bilik setor baharu,sebuah tandas kolah diperbetulkan, atap-atapnya telah dibuang terus dan digantikan dengan genting India, pagar keliling telah dibuat dan perbelanjaan semuanya lebih kurang RM 10,000.00 .

          Dalam bulan April 1969 masjid ini disebarkan, ditambah berandah bahagian timurnya dan serambi di bahagian arah sawah serta dibuat kolah baharu dan simen halaman arah jalan ke Paya Rumput, serta dibaiki mana-mana yang rosak, kos membuatnya lebih kurang RM 11,000.00. Pejabat Agama Islam membantu sebanyak RM 4,800.00, Askar Melayu Batalion yang Kesepuluh menderma RM 1,000.00 dan selebihnya daripada orang kampung dan juga orang luar kampung.

          Disebabkan terlalu banyak soyok, tambahan ke atasnya dan masjid yang sudah tua serta tidak ada asas tapak, menyebabkan ianya runtuh, pada tanggal 10 hb.Disember, 1984 dan disebabkan runtuh itulah maka seluruh penduduk Sungai Udang mendapat nekmat daripada Allah s.w.t. dan hadiah yang seharusnya dibalas kembali kepada kerajaan yang telah mengeluarkan peruntukan yang begitu besar sekali.

          Tuan-tuan dapat menyaksikan sorotan peristiwa bergambar, Masjid Sungai Udang yang lama, ianya runtuh , kerja-kerja merata dan menanam cerucuk, bersembahyang Hari Raya Aidilfitri dan Hari Raya Haji , dan masjid yang sedia ada di hadapan kita semua.

          Kisah-kisah silam bermula pada abad yang kesembilan belas itu tadi adalah daripada buku yang ditulis oleh Allahyarham Tuan Haji Jaafar bin Alang, satu-satunya orang yang mengambil tahu sejarah selain Allahyarham Datuk Kadi Haji Sidek.