Pada tahun 1949 lahir sebuah organisasi masyarakat bernama Persatuan Guru Islam Indonesia (PGII) di bawah Majelis Syuro Muslimin Indonesia (Masyumi) yang dipelopori oleh tokoh-tokoh yaitu KH. Wahid Hasyim, yang pada waktu itu menjabat sebagai Menteri Agama, KH. Zarkasih, KH. Affandi Ridwan, RT. Jaya Rakhmat, Sutan Abdul Ghani dan KH. EZ. Muttaqien.

Secara hukum, Yayasan Pendidikan PGII yang saat ini terus berkembang dan mendapat kepercayaan dari masyarakat, berdiri pada tahun 1960 di Bandung dengan Notaris Noezar, terdaftar pada akte notaris No. 74. Turut hadir dalam pembentukan yayasan tersebut tokoh-tokoh antara lain: Sutan Abdul Ghani, Muhammad Heru Tjahya, Abdurachman bin Sarbie, dan selengkapnya tertulis pada akta notaris tersebut.

Sebelum menempati kampus Jl. Panatayuda No. 2 Bandung, sekolah yang pertama kali didirikan adalah SMA Muslimin pada tahun 1950 yang pada saat itu masih menumpang di SD Percobaan Jl. Pajagalan Bandung dengan kepala sekolah Jahri. Hal ini menunjukkan sebuah semangat dan idealisme yang tinggi di dalam mengembangkan pendidikan terutama dalam pendidikan Islam sekalipun belum ditunjang dengan sarana dan prasarana yang memadai.

Sejak tahun 1952 SMA Muslimin berubah nama menjadi SMA PGII yang lokasinya pindah ke Jl. Pamoyanan dengan kepala sekolah waktu itu Abdul Latief Aziz. Akhirnya pada 1962 SMA PGII pindah lokasi ke Jl. Panatayuda No. 2 hingga saat ini dengan status tanah Hak Guna Pakai dari Pemerintah Kota Bandung.

Di tengah perjalanannya, pada tahun 1968 YP PGII membuka Sekolah Menengah Ekonomi Atas (SMEA) dengan waktu belajar pada siang hari setelah SMA. Penyelenggaraan SMEA tersebut hanya beberapa periode saja, sebab pada akhirnya penyelenggaraan pendidikan YP PGII difokuskan hanya kepada pengembangan SMA dan tidak menerima pendaftaran lagi untuk SMEA (passing out).

Terjadinya peningkatan jumlah siswa yang cukup tinggi dan lokasi kelas jauh di Jl. Pahlawan Blk. No. 17 yang terletak diluar kecamatan Coblong dimana SMA PGII berada, maka pada 1988 YP PGII berinisiatif untuk membagi 2 (unit) SMA PGII menjadi SMA PGII 1 yang berlokasi di Jl. Panatayuda No. 2 dipimpin oleh Drs. Hasan Mansur dan SMA PGII 2 yang berlokasi di Jl. Pahlawan Blk. No. 17 dipimpin oleh Drs. Lili Asmili.

YP PGII selain menyelenggarakan pendidikan tingkat SMA, juga mendirikan pendidikan tingkat SMP pada 1967 dengan nama SMP PGII yang dipimpin pertama kali oleh Drs. Abdul Halim yang diteruskan berturut-turut oleh Drs. I. Sutardi Wirasasmita, Drs. Jalaludin Rahmat, Syamsu Abdurrazak, BA., Drs. Jam’an Satori, MA., Drs. Suwarno, Drs. Hasan Mansur, Tasripin, BA., Siti Nursinah, Spd., Drs. Komara, SP., dan saat ini oleh Drs. Moch. Rachmat. Bersamaan dengan didirikannya SMA PGII 2 yang berlokasi di Jl. Pahlawan Blk. No. 17 maka didirikan pula SMP PGII 2 yang pertama kali dipimpin oleh Drs. Moch. Rachmat.

Dalam perjalanan berikutnya, tepatnya pada 1950 tokoh-tokoh tersebut mendirikan lembaga pendidikan umum yang diselenggarakan di bawah Lembaga Pendidikan Muslimin. Lahirnya Dekrit Presiden pada tahun 1959 berakibat pada bubarnya Masyumi sehingga berdampak kepada perubahan status PGII sebagai ormas menjadi sebuah yayasan pendidikan yang bernama Yayasan Pendidikan PGII. Sejak saat itu Yayasan Pendidikan PGII mengambil alih Lembaga Pendidikan Muslimin dalam urusan penyelenggaraan pendidikan.

Para kepala sekolah yang sempat memimpin SMA PGII sejak berdiri hingga saat ini adalah Abdul Latief Aziz (1951 – 1964),  Noershap (1964 – 1975),  Drs. Ahlan Husen (1975 – 1978), Komar Usman (1978 – 1981), Drs. Eman Sundara (1981 – 1987), Drs. Hasan Mansyur (1987 – 1999), Drs. Lili Asmili (1999 – 2019) dan Tato Yuniarto, M.Pd.I. (2019-sekarang)

Pada perkembangan berikutnya, SMA PGII di masa kepemimpinan  Drs. Eman Sundara, mendapat kepercayaan yang semakin meningkat, terlebih setelah siswi SMA PGII diwajibkan menggunakan jilbab meskipun bertentangan dengan ketentuan pakaian seragam yang ditetapkan oleh pemerintah. Bahkan pada saat itu pula SMA PGII menerima siswi pindahan dari SMA negeri yang  dikeluarkan karena kasus menggunakan jilbab. Hal tersebut mengakibatkan siswa SMA PGII sangat melimpah melebihi daya tampung yang ada sehingga yayasan berinisiatif untuk membangun lokasi baru pada tanah hak milik YP PGII yang terdapat di Jl. Pahlawan Blk No. 17 sebagai kelas jauh SMA PGII.

Perubahan nama SMA menjadi SMU dan SMP menjadi SLTP mengacu pada UU SPN No. 2 tahun 1989 sehingga unit sekolah di lingkungan YP PGII pun berubah namanya sesuai dengan undang-undang tersebut. Namun, berdasarkan Undang-undang Sistem Pendidikan Nasional No. 20 tahun 2003 terjadi perubahan SMU menjadi SMA