Mezarlığın bulunduğu alan Pehlivan Cemalettin Tekkesi olarak da anılmaktadır. Nakşibendi tarikatına bağlı olan tekke, Pehlivan Cemalettin (Küştigiran) tarafından yaptırılmıştır. Evliya Çelebi tarafından pehlivanların eğlendikleri, güreş tuttukları ve dışarıda da eski pehlivanlara ait olan eşyaların sergilendiği bir alan olarak söz edilir. Zaman içinde harap olan tekke, 1890 yılında yeniden inşa ettirilmiş; fakat günümüze ulaşamamıştır. 1956 yılında yapılan çalışmalardan sonra Pehlivanlar Mezarlığı olarak kabul gören alanda Pehlivan Cemalettin, Ali Efendi, Mehmet Ağa gibi Osmanlı Dönemi pehlivanları yanı sıra Kara Emin gibi yakın dönem pehlivanlarının mezarları yer almaktadır.