Kara Mustafa Paşa Külliyesi’nin banisi, IV. Mehmed döneminde (1648-1687) önce Kaptan-ı Derya, daha sonra da Sadrazam olarak görev yapmış olan Merzifonlu Kara Mustafa Paşa’dır. Ancak, 2. Viyana Kuşatması’ndaki başarısızlığından dolayı 1095/1683’te idam edilmesi nedeniyle, Külliye’nin inşası yarım kalmıştır. Dershane-Mescit kapısındaki kitabeden anlaşıldığı üzere, oğlu Ali Bey tarafından 1102/1690’da Mimar Hamdi’ye tamamlatılmıştır.
Külliye, Darülhadis Medresesi, Dershane Mescit, Sibyan Mektebi, Sebil, dükkânlar, su deposu ve zamanla oluşan hazine alanından meydana gelmiştir. Ayrıca, ayrı bir kütüphanesinin olduğu bilinmektedir. Ancak 20. yüzyılın başlarında harap olan Külliye, medrese fonksiyonunu kaybetmiş ve yangınzedeler tarafından işgal edilmiştir. 1956-1957 yıllarında Divanyolu Caddesi’nin genişletilmesi çalışmalarında dükkânlar yıkılarak ortadan kaldırılmış, Sebil ve hazine alanı ise yan sokağa taşınmıştır. 1960 yılında Vakıflar İdaresi tarafından medrese ve Sibyan Mektebi restore edilmiş, Dershane-Mescidin saçakları yenilenmiştir.
Külliye yapılarından Sebil büfe olarak kiraya verilmiş, medrese ve Sibyan Mektebi de İstanbul Fetih Cemiyeti ile Yahya Kemal Enstitüsü’ne tahsis edilmiş olup faaliyetlerine devam etmektedir. Kara Mustafa Paşa Külliyesi, Osmanlı mimarisinin önemli eserlerinden biri olarak tarihi değerini günümüze taşımaktadır.