Setelah Indonesia merdeka, pemerintah Indonesia merasakan kurangnya tenaga kependidikan di semua jenjang dan jenis lembaga pendidikan. Untuk mengatasi masalah ini, pemerintah mendirikan berbagai kursus pendidikan guru. Usaha-usaha untuk meningkatkan mutu dan jumlah guru terus dilakukan melalui pendirian Perguruan Tinggi Pendidikan Guru (PTPG), yang didirikan di empat kota, yakni Batusangkar, Manado, Bandung, dan Malang. Dengan demikian, terdapat dua macam lembaga pendidikan yang menghasilkan tenaga guru, yaitu Kursus B-I/B-II/PGSLP dan PTPG.
Pada tahun 1957, PTPG diintegrasikan ke dalam Fakultas Keguruan dan Ilmu Pendidikan (FKIP) pada universitas terdekat. Kemudian, pada tahun 1963, oleh Kementerian Pendidikan Dasar, didirikan Institut Pendidikan Guru (IPG) untuk menghasilkan guru sekolah menengah. Berdasarkan Keputusan Menteri P dan K No. 6 dan 7, tanggal 8 Februari 1961, Kursus B-I dan B-II diintegrasikan ke dalam FKIP. Namun, hal ini dirasa kurang efektif dan mengganggu manajemen pendidikan guru. Untuk itu, kursus B-I dan B-II di Jakarta diintegrasikan ke dalam FKIP Universitas Indonesia.
Melalui Keputusan Presiden RI No. 1 tahun 1963 tanggal 3 Januari 1963, ditetapkan integrasi sistem kelembagaan pendidikan guru. FKIP Universitas Indonesia dan IPG Jakarta diintegrasikan menjadi IKIP Jakarta. Dalam perkembangan selanjutnya, IKIP diberi perluasan mandat untuk mengembangkan ilmu kependidikan dan non kependidikan dalam wadah universitas. Akhirnya, sejak tanggal 4 Agustus 1999, IKIP Jakarta berubah nama menjadi Universitas Negeri Jakarta (UNJ) berdasarkan Keppres 093/1999. Peresmiannya dilaksanakan oleh Presiden Republik Indonesia pada tanggal 31 Agustus 1999 di Istana Negara.