Sejak dibukanya Program Pascasarjana di IAIN Syarif Hidayatullah Jakarta pada tahun 1982 dan IAIN Sunan Kalijaga Yogyakarta pada tahun 1983, setiap tahun IAIN Raden Fatah mengirimkan dosen-dosennya untuk mengikuti program S2 dan S3 di dua lembaga tersebut. Setelah beberapa orang dosen menyelesaikan program S3 (Doktor) dan kembali bertugas di IAIN Raden Fatah, timbul keinginan dan gagasan pimpinan IAIN Raden Fatah untuk menata dan meningkatkan mutu penyelenggaraan akademik yang dapat meningkatkan mutu Sumber Daya Manusia (SDM) lulusan, sehingga memiliki daya saing yang tinggi dalam melaksanakan pengabdian di tengah masyarakat.
Peningkatan mutu tersebut membutuhkan kuantitas dan kualitas dosen berpendidikan S2 dan S3 yang cukup. Diyakini bahwa hal ini dapat dilakukan apabila IAIN Raden Fatah membuka program pendidikan S2, untuk membuka kesempatan yang luas bagi dosen-dosen dan alumni untuk meningkatkan kualifikasi kesarjanaan mereka. Gagasan ini diagendakan dalam sidang Senat IAIN Raden Fatah pada tahun 1996 dan disetujui serta didukung sepenuhnya oleh para anggota senat. Melalui sidang tersebut Senat Institut menugaskan Rektor untuk menyusun proposal pendirian Program Pascasarjana IAIN Raden Fatah.
Pada Temu alumni S3 Program Pascasarjana IAIN Syarif Hidayatullah dan Peringatan 70 tahun Prof. Dr. Harun Nasution (Direktur Pascasarjana IAIN Syarif Hidayatullah) pada tahun 1996, Harun Nasution dalam sambutannya menyatakan bahwa IAIN Raden Fatah telah memenuhi syarat untuk menyelenggarakan program S2. Kemudian pada kesempatan lain, Prof. Dr. Jalaluddin dan Dr. J. Suyuthi Pulungan, M.A,. mengadakan konsultasi dengan Prof. Dr. Harun Nasution. Dalam konsultasi tersebut, ia mengulangi pernyataannya bahwa IAIN Raden Fatah sudah boleh membuka program S.2 dan menyarankan agar segera diusulkan, sehingga dalam waktu yang tidak terlalu lama program tersebut sudah berjalan. Ia juga menyatakan kesediaannya untuk turut memperjuangkan usulan tersebut.
Untuk mewujudkan keinginan tersebut, Prof. Dr. Jalaluddin sebagai pembantu Rektor I meminta Dr. J. Suyuthi Pulungan menyusun proposal Pendirian Program Pascasarjana S2. Setelah Proposal yang disusun dikoreksi dan disempurnakan oleh Prof. Dr. H. Jalaluddin, pada tahun 1997 dikirimkan ke Departemen Agama bersamaan dengan proposal pembukaan Fakultas Adab dan Fakultas Dakwah. Usul pembukaan S2 tidak mendapat jawaban dari pihak Departemen Agama dan karena berbagai kendala, IAIN Raden Fatah juga mendiamkannya.
Pada tahun 1999 setelah Prof. Dr. H. Jalaluddin terpilih menjadi Rektor menggantikan Drs. H. Moh. Said, M.A,. keinginan membuka program S2 dimunculkan kembali. Untuk itu, ia meminta Dr. J. Suyuthi Pulungan, M.A,. agar menyempurnakan proposal yang sudah ada dan menyesuaikannya dengan buku “Pedoman Penyusunan Portofolio Program Studi Pascasarjana Tahun 1998”. Kemudian tahun 1999 proposal tersebut dikirimkan kembali ke Departemen Agama. Pihak Departemen Agama menginformasikan agar proposal tersebut dilengkapi lagi, seperti susunan panitia pembukaan, rencana personil pengelola dan rekomendasi gubernur serta MOU kerjasama dengan Universitas Sriwijaya (UNSRI).
Untuk memantapkan penyempurnaan proposal tersebut, dibentuk panitia persiapan pembukaan program pascasarjana S2 Magister Agama oleh Rektor IAIN Raden Fatah melalui Keputusan Rektor nomor XCVI tahun 1999 tanggal 09 November 1999 yang dipimpin oleh Dr. J. Suyuthi Pulungan, MA sebagai Ketua dan Drs. M. Sirozi, M.A. Ph.D,. sebagai Sekretaris. Panitia tersebut diberi tugas utama untuk menyempurnakan proposal yang telah ada.
Dalam rangka pelaksanaan tugas tersebut maka panitia melakukan beberapa kegiatan. Pertama, survey calon mahasiswa, survey pengguna lulusan, dan survey tanggapan para pakar tentang rencana pembukaan program S2. Survey dikelola oleh Drs. Ahmad Zainal (Kepala Pusat Penelitian) dan Drs. Zulkifli, MA (Dekan Fakultas Adab). Kedua, melaksanakan Serasehan dengan mengundang para pakar dan praktisi pada tanggal 6 Desember 1999. Ketiga, mengupayakan rekomendasi dukungan dari berbagai instansi, yaitu Dewan Perwakilan Rakyat Propinsi Sumatera Selatan, Gubernur Sumatera Selatan dan Wali Kotamadya Palembang. Keempat, mengupayakan kerjasama dengan UNSRI yang diwujudkan dalam bentuk MOU. Kelima, pengadaan buku perpustakaan. Semua kegiatan tersebut dilakukan dalam rangka melengkapi/menyempurnakan proposal.
Kemudian untuk memperkuat bagian alasan pembukaan program pada proposal dilakukan penajaman yang meliputi kebutuhan akan tenaga pengajar berkualifikasi pascasarjana, antisipasi kebutuhan SDM yang berkualitas di daerah pada era otonomisasi, mendukung misi IAIN Raden Fatah, yaitu menjadikannya sebagai research university dan centre for excelence dalam ilmu-ilmu keislaman untuk Sumatera Selatan khususnya dan besarnya minat para dosen dan alumni di wilayah ini untuk studi pasca S1. Semua aspek penajaman alasan tersebut dilengkapi dengan data pendukung hasil survei.
Atas kerjasama dan dukungan yang baik dari semua personil panitia, penyempurnaan proposal dapat diselesaikan sesuai rencana. Kemudian proposal tersebut dikirim ke Departemen Agama melalui surat Rektor Nomor IN/4/1.2/KP.07.6/111/2000 tanggal 27 Januari 2000. Pihak Departemen Agama dalam hal ini Dirjen Binbaga Islam menjawab, agar proposal dipresentasikan di depan Tim Guru Besar Departemen Agama. Presentasi dilaksanakan pada hari Rabu tanggal 10 Mei 2000. Tim presentasi IAIN Raden Fatah berjumlah 7 orang yaitu semua dosen yang berkualifikasi doktor yakni: Prof. Dr. Jalaluddin,. Prof. Dr. Wardini Ahmad,. Dr. J. Suyuthi Pulungan, M.A,. Dr. Aflatun Muchtar, M.A,. Dr. Cholidi Zainuddin dan Drs. M. Sirozi, M.., Ph.D,. Juga hadir mantan Rektor IAIN Raden Fatah yaitu Drs. Moh. Said, M.A. Dalam acara presentasi tersebut Tim Guru Besar Departemen Agama menyarankan agar proposal disempurnakan.
Pada proses selanjutnya, pada tanggal 10 Juli 2000 Tim Guru Besar Departemen Agama bertemu kembali dengan Rektor bersama ketua dan sekretaris panitia di Departemen Agama untuk mendiskusikan proposal yang sudah disempurnakan tersebut. Sebagai follow up dari pertemuan tersebut maka pada tanggal 2-3 Agustus 2000 Departemen Agama mengirimkan Tim Visitasi yang terdiri dari Prof. Dr. Mastuhu, M.Ed., Prof. Dr. Yuhara Sukra dan Dr. Muharam Marzuki ke IAIN Raden Fatah. Misi utama tim tersebut adalah untuk mencocokkan data dan informasi yang tercantum dalam proposal dengan kenyataan di lapangan.
Mengacu pada hasil visitasi, melalui laporan tertanggal 3 Agustus 2000, tim menyetujui IAIN Raden Fatah membuka Program Pascasarjana S2 mulai tahun 2000. Tim menilai bahwa dari segi tenaga dosen, prasarana dan sarana belajar mengajar serta buku-buku perpustakaan serta SDM pengelola IAIN Raden Fatah sudah siap. Tim juga menyetujui usul program studi yang akan diselenggarakan, yaitu program studi Ilmu Pendidikan Islam dengan tiga konsentrasi keahlian meliputi Pemikiran, Metodologi dan Manajemen. Tim juga merekomendasikan kepada Dirjen Binbaga Departemen Agama agar segera mengeluarkan izin pembukaan PPs IAIN Raden Fatah. Untuk menyikapi hasil penilaian dan saran tim visitasi tersebut, Rektor IAIN Raden Fatah melaksanakan sidang Senat IAIN pada tanggal 16 Agustus 2000 untuk memilih calon Direktur PPs IAIN Raden Fatah. Dalam sidang tersebut secara aklamasi disetujui bahwa M. Sirozi, Ph.D,. sebagai calon Direktur PPs IAIN Raden Fatah. Pemantapan tahap akhir tentang izin pembukaan PPs IAIN Raden Fatah dilakukan dalam pertemuan calon direktur dengan Dirjen Binbaga Islam, Direktur Perguruan Tinggi Agama Islam bersama staf di Departemen pada tanggal 25 Agustus 2000. Dalam pertemuan tersebut dinyatakan bahwa Departemen Agama akan segera mengeluarkan izin pembukaan PPs IAIN Raden Fatah pada tahun 2000.
Komitmen tersebut ditindaklanjuti dengan keluarnya Surat Keputusan Dirjen Binbaga Islam nomor: E/175/2000 tentang Penyelenggaraan Program Pascasarjana Magister Agama (S2) IAIN Raden Fatah. Berdasarkan Surat Keputusan tersebut, maka dilakukan penerimaan mahasiswa perdana melalui kegiatan pendaftaran calon mahasiswa baru pada tanggal 1 s.d 16 September 2000, seleksi peserta pada tanggal 20-21 September 20-21 September 2000. Selanjutnya peresmian pendirian PPs IAIN Raden Fatah diawali dengan kegiatan perdana dalam bentuk acara kuliah iftitah yang disampaikan oleh Bapak Dr. Husni Rahim yang pada saat itu menjabat sebagai Dirjen Binbaga Islam. Kegiatan kuliah iftitah ini dilaksanakan tepatnya pada tanggal 2 Oktober 2000 dan dihadiri oleh 26 orang mahasiswa baru PPs UIN Raden Fatah.
Pada perkembangan berikutnya, setelah memasuki tahun ketiga, yakni tahun akademik 2003-2004 dan Program Pascasarjana IAIN Raden Fatah mulai meluluskan sarjana magister, ditambah dengan semakin meningkatnya keinginan dosen-dosen IAIN Raden Fatah sendiri untuk meneruskan kuliah ke jenjang S2, terutama bagi para dosen yang berlatar belakang non kependidikan, maka mulai periode Juni 2003 Program Pascasarjana IAIN Raden Fatah menambah dua program studi baru yaitu, Program Studi Hukum Islam dengan konsentrasi Hukum Tata Negara, Ekonomi Syari’ah dan Peradilan Agama dengan SK Dirjen Pendis Nomor: DJ.II/176/2004 tanggal 18 Juni 2004. Sedangkan Program Studi Sejarah Peradaban Islam dengan konsentrasi Islam Indonesia, Tafsir Hadis,dan Politik Islam berdasarkan SK Nomor DJ.II/382/2004 tanggal 21 Oktober 2004.
Pada tahun 2013, melalui SK Dirjen Pendis Nomor: 2255, tanggal 19 Agustus Tahun 2013, program studi (S2) pada Program Pascasarjana IAIN Raden Fatah mengalami perubahan terdiri dari: Program Studi Pendidikan Agama Islam, Program Studi Manajemen Pendidikan Islam, Program Studi Ilmu al-Quran dan Tafsir, Program Studi Sejarah dan Kebudayaan Islam, Program Studi Hukum Tata Negara dan Program Studi Ekonomi Syariah. Semula hanya terdiri dari tiga program studi yaitu Ilmu Pendidikan Islam (IPI), Hukum Islam (HI) dan Sejarah Peradaban Islam (SPI). Dengan memperluas program studi dan konsentrasi baru tersebut menambah kajian keislaman dalam rangka merespon kebutuhan dan tuntutan masyarakat.
Berdasarkan Surat Keputusan Rektor UIN Raden Fatah Palembang No.275 Tahun 2017 tertanggal 26 Mei 2017 tentang Pengalihan/Pemindahan Penyelenggaraan dan Pengelolaan Pendidikan Program Magister (S2) dari Program Pascasarjana UIN Raden Fatah ke Fakultas, maka sejak tanggal tersebut Program Magister yang linear dengan S-1 di Fakultas Ilmu Tarbiyah dan Keguruan yaitu Program Studi Pendidikan Agama Islam (PAI) dan Manajemen Pendidikan Islam (MPI) mulai beralih pengelolaan di Fakultas Ilmu Tarbiyah dan Keguruan UIN Raden Fatah Palembang.
