MASUKNYA Islam ke wilayah Sumatra Selatan disebut penulis Arab Ibnu Rusta, Sulaiman, dan Abu Zaid dimulai dari bangsa Arab pedagang utusan dari Dinasti Umayyah (661-750 M) dan Dinasti Abbasiyah (750-1268 M) serta pedagang Sriwijaya yang berlayar ke negara-negara Timur Tengah.
Setelah era Sriwijaya, Masjid Agung Palembang atau bernama resmi Masjid Agung Sultan Mahmud Badaruddin I (SMB I) Jayo Wikramo merupakan bukti sejarah penyebaran agama Islam di Bumi Sriwijaya. Masjid Agung Palembang dibangun Mahmud Jayo Wikramo (Sultan Mahmud Badaruddin I) pada 1738 dan selesai 1748. Sultan Mahmud Badaruddin I memerintah di Kesultanan Palembang pada 1724-1758, sedangkan menaranya dibuat 10 tahun kemudian atau sekitar 1757.
Ketua Yayasan Masjid Agung Palembang Abdul Rozak mengatakan Masjid Agung yang merupakan bagian dari Kesultanan Palembang Darussalam itu berada di utara istana di Belakang Benteng Kuto Besak atau berdekatan dengan Sungai Musi kawasan 19 Ilir pusat Kota Palembang.
Bangunannya dikelilingi sungai, yaitu sebelah selatan Sungai Musi, sebelah barat Sungai Sekanak, sebelah timur Sungai Tengkuruk, dan sebelah utara Sungai Kapuran.
Menurut dia, kesultanan Palembang Darussalam berperan penting dalam menyebarkan Islam hingga pelosok negeri. "Bangunan yang pertama kali tersebut, yakni bangunan di depan menjadi masjid pertama, dan itu dibangun Sultan Mahmud Badaruddin I dan dahulu semua berbentuk kayu, sementara sisi kanan-kirinya telah mengalami renovasi untuk pengembangan," jelasnya.
Masjid itu menjadi pusat kajian Islam yang telah melahirkan sejumlah ulama besar. Syekh Abdus Shamad al-Palembani, Kemas Fachruddin, dan Syihabuddin bin Abdullah ialah beberapa ulama yang pernah menjadi Imam Besar Masjid Agung.
Peran para ulama itu sangat besar dalam mengembangkan agama Islam di wilayah Kesultanan Palembang. Konsep pengajaran Islam diturunkan ke lingkup amal dan ilmu sehingga mudah diterima dan diamalkan masyarakat muslim Palembang.
"Masjid Agung Palembang menghadap ke timur, masjid ini memiliki arsitektur perpaduan antara arsitektur Melayu, Tiongkok, dan Eropa," ucap Sri Suryani, Kabid Cagar Budaya dan Museum Dinas Kebudayaan Kota Palembang, Jumat (24/3).
Arsitektur Melayu antara lain tampak pada bentuk atapnya berupa atap tumpang tiga, arsitektur Tiongkok tampak pada bentuk jurai yang melengkung ke atas pada keempat mustaka, sedangkan unsur Eropa antara lain terlihat pada bentuk pintu masjid yang melengkung di atasnya.