Masjid Raya Pematang Siantar, didirikan pada 1911, merupakan masjid tertua di kota ini. Pada 1995, setelah renovasi besar, masjid ini resmi dibuka dengan kapasitas 1.200 jamaah. Selain menjadi tempat ibadah, masjid ini aktif dalam kegiatan sosial, seperti pembinaan anak yatim dan koperasi jamaah yang mendukung ekonomi lokal. Masjid ini juga terkenal karena tetap mengadakan shalat Jumat selama pendudukan Jepang, meskipun masjid lainnya tidak diizinkan.