Arapça kökenli bir sözcük olan “sahhaf” kitap alım satımı yapan esnaflara verilen isimdir. Türkçede halk arasında ise genellikle “sahaf” olarak kullanılır. İstanbul’un tarihi ve kültürel dokusunda önemli bir yeri olan Kapalıçarşı, Osmanlı döneminde Cağaloğlu’ndan Fatih semtine kadar uzanan bir geçit yeri ve kendine özgü bir merkez niteliği taşıyordu. 15. ve 16. yüzyıllarda, medrese öğrencilerinin Fatih ve Bayezid gibi büyük camilere yakın yerlerde kitap alıp sattıkları ve sahaflığın kısa zamanda meslek haline geldiği biliniyor. Kapalıçarşı’nın yapımı 1460’larda tamamlandıktan sonra, sahaflara da burada yer gösterildi. Ancak zaman içinde o sokakta kitapçılar yerine halıcılar bulunmaya başladı.
Kapalıçarşı’da bütün dükkânlar dua ile açılır, dua ile kapanırdı ve her lonca ve esnaf grubu birbirine bağlıydı. Sahafların piri olarak kabul edilen Basralı Abdullah Yetimi, ilk kitapçı olarak bilinir. 17. yüzyılın sonlarında Fransa Elçiliği’nde görevli olan A. Galland, Kapalıçarşı’da birçok yazma kitapla ilgilendi ve elçi ve Fransa kralı adına satın aldı. Bu değerli yazmalar günümüzde Fransız Milli Kitaplığı’nda bulunuyor.
1894’teki büyük İstanbul depreminde çarşının özellikle sahafların bulunduğu bölümü hasar gördü ve onarımı zaman aldı. Bu süreçte birçok kitapçı Kapalıçarşı’dan ayrılmak zorunda kaldı. O dönemde şimdiki sahaflar çarşısı yerine fesçilerin barakaları bulunmaktaydı. Ancak sahaflar, Kapalıçarşı’dan ayrılarak birer-ikişer bu barakalara yerleşmeye başladılar. Sahafların sayısı gittikçe arttı ve burası “Sahaflar Çarşısı” adını almaya hak kazandı. 1950’de önemli bir yangın geçiren çarşı, belediye tarafından istimlak edilerek yanmayan yerleri de yıkıldı ve sahaflar Bayazid Camii’nin geniş avlusunda yer buldu. Yanan çarşı yeniden yapılandırıldı ve dükkânlar 1952 yılında sahaflara kiralandı.