Pada tahun 1956, beberapa tokoh pendidik di Sumatera Utara membuka Perguruan Tinggi Pendidikan Guru (PTPG). Gagasan ini dipelopori oleh Prof. Ani Abbas Manopo, SH, yang pada waktu itu menjabat sebagai Dekan Fakultas Hukum dan Pengetahuan Masyarakat Universitas Sumatera Utara (USU); G. Sianipar yang menjabat Kepala Inspeksi Pendidikan Masyarakat; dan R.M. Simanjutak yang menjabat Direktur SMA Negeri 1 Medan.

Di awal pembukaannya, PTPG memiliki beberapa program studi, yakni Jurusan Bahasa Inggris, Ilmu Pendidikan, Ilmu Pengetahuan Masyarakat, dan Pendidikan Jasmani. Berdirinya PTPG ini tidak berlangsung lama, karena kemudian, PTPG bergabung menjadi salah satu bagian dari Universitas Sumatera Utara (USU) dengan nama Fakultas Keguruan dan Ilmu Pendidikan (FKIP). Proses ini terjadi pada tahun 1957, berdasarkan Surat Keputusan Menteri PPK RI No. 95254 tanggal 22 Agustus 1957.

FKIP USU mengalami kemajuan yang sangat pesat. Bantuan staf ahli dan tenaga pengajar didatangkan dari Colombo Plan dan Ford Foundation. Jurusan-jurusan di fakultas pun bertambah, jumlah mahasiswanya pun mencapai ribuan orang. Namun, saat itu, FKIP USU belum memenuhi syarat untuk menjadi suatu Institusi Keguruan dan Ilmu Pendidikan (IKIP) yang berdiri sendiri. Maka FKIP USU kemudian dijadikan cabang dari IKIP Jakarta.

Dalam perjalanannya yang cukup panjang, pada Februari 2000, IKIP Medan secara resmi mengalami perubahan kelembagaan menjadi Universitas Medan (UNIMED), berdasarkan SK Presiden No. 124 Tahun 1999 tanggal 7 Oktober 1999. Perubahan ini dimaksudkan untuk meningkatkan kualitas penyelenggaraan Lembaga Pendidikan Tenaga Kependidikan (LPTK) serta untuk meningkatkan kualitas lulusan.