Malum olduğu üzere, Tanzimat’a gelene kadar, Osmanlı Devleti’nde ilköğretim, sıbyan mekteblerinde yapılmaktaydı. Bu mektebler ya camilerin ibadet yapılan yerinde veya cami büyük ise bitişiğinde ayrı bir oda şeklinde idi. Genellikle dersleri cami görevlileri, son zamanlarda ise “muallim-i sıbyan” denilen ayrı hocalar tarafından verilmekteydi.
“Muallim-i Sıbyanların bazen “kalfaları” da olurdu. Kalfalar, henüz yeni başlayan talebeler ile, muallimler de ileri düzeydekiler ile meşgul olurlardı.
Bu mekteblerde “elif-ba” (alfabe) ile başlanır, yazı, okuma öğretilir, dinî bilgiler verilir, sonra kur’ana geçilirdi. Hatim indiren talebe, mezun olmuş kabul edilirdi.
Sıbyan mekteblerini bitirenlerin kabiliyetlileri eğer isterlerse, medreselere gönderilirdi.
Karaman’da sıbyan mektebi olarak, Canbazzade veya Canbaz Kadı olarak bilinen Canbazzade Yunus oğlu Mevlana Abdurrahman sıbyan mektebi öne çıkıyor.
Ermenek, Aksaray, Bor, Niğde ile ilgili arşiv kayıtlarından anlaşıldığına göre, buralardan Larende (Karaman)’a küçük yaşta çocukların tahsil için geldiği anlaşılıyor, öyle ki bunların yaşlarına bakılınca, medrese talebesi değil, sıbyan mektebi talebesi olduğu ortaya çıkıyor; dolayısı ile Canbazzade Sıbyan Mektebi’nden başka Karaman’da diğer sıbyan mekteblerinin de olduğu anlaşılıyor.
Karaman’ın en meşhur medreseleri aynı zamanda bir medrese olan Karamanoğlu II. İbrahim Bey Külliyesi (İmaret), Emir Musa Medresesi, Çavuşzade Zeynel Abidin Ağa Medresesi, Hatuniye yakınlarındda Hacı Hasan Medresesi, Arabzade (Araboğlu) Camii yakınlarında Seyyid Osman Ağa Medresesi, yine Hatuniye civarında İshakiye veya Hacı İshak Medresesi, Rahime Hanım Medresesi, ve tabii ki Hatuniye Medresesi ile civarda Ermenek’te Tol Medrese.
Son zamanlarda faaliye t gösterenler ise Samedzâde Medresesi, Taş Medrese ve Şabaniye Medresesi ve Seyyid Mustafa Efendi Medresesi'dir.
Tanzimat’ın ilanından hemen önce 1838’de Umur-ı Nafia Meclisi’nde mektebler küçük ve büyük olmak üzere ikiye ayrıldı. Buna göre küçük mahalle mekteblerinde (sınıf-ı evvel) kur’an öğrenilmesi, camilerin yanındaki büyük mekteblerde ise (ki bunlara sınıf-ı sânî de denilir) Türkçe inşa, tuhfe-i vehbî, nuhbe-i Vehbi, sübha-i sıbyân gibi lügatlar ile Birgivî Risâlesi gibi kitablar, ahlâk risaleleri, hat (yazı) ve kitabet öğretilmesi kararlaştırıldı.
1846’da dört yıllık eğitim veren sıbyan mektebleri, 1847’de ilk ve orta öğremimin işlerinin yürütülmesi için Mekatib-i Umumiyye Nezareti kuruldu. 1857’de bu nezaret müsteşarlığa dönüştürüldü, 1864’de Mekatib-i Sıbyan-ı Müslime kuruldu, 1882’de bu dairenin adı Mekatib-i İbtidaiye olarak değiştirildi.
Bu ilk mekteblerde erkek ve kız talebelerin beraber okuduğu anlaşılıyor, zira 1847’de sadaret Sultanahmed civarındaki bir sıbyan mektebinde kız ve erkek çocuklarrın ayrılmasını istemiştir.
Yukarıda bahsettiğimiz 1838’de Umur-ı Nafia Meclisi’nde “selâtin-i izâm mektebleri” adı ile yüksek öğretime öğrenci yetiştirmek maksadıyla rüşdiye mektebleri (orta öğretim)’nin de kurulması kararlaştırılarak, “Mekâtib-i Rüşdiye Nezareti” kuruldu fakat meclisin öngördüğü şekilde batı tarzı mektebler açılamadı.
Karaman'da ilk rüşdiye mektebi 1289 (1872) yılında açılarak, muallimliğine mahallî ulemadan Nazif Efendi, bevvablığına (kapıcı) Hafız Mehmed Efendi getirilmiş idi. Bu zâtın görevi 1295 (1878)'e kadar devam etmiş ve bu tarihte yerine Hacıoğlupazarcığı muallim-i evveli Abdülgafur Efendi tayin edilmiştir.
Karaman'da ilk inas (kız) mektebi ibtidai olarak 1326 (1908) yılında açılarak muallimeliğine Ayşe Sıdıka Hanım getirilmiştir.
Yine aynı tarihte Karaman'da bir de Rum mektebi açılmıştır.
1331 (1913) yılında Sıdırva köyünde muhtemelen ibtidai olması lazım gelen bir mekteb vardı ve muallimi Rıfat Efendi idi. Bu tarihlerde diğer köylerde mekteb olduğuna dair bir bilgiye ulaşılamamıştır.
Yine 1331'de Karaman'da İttihad İbtidai Mektebi adı ile bir mekteb açılarak, Muallimliğine Mustafa Efendi getirilmiştir.
1329 (1911) yılında Karaman Rüşdiyesi leylî (yani yatılı) eğitim verirken, nehharî (gündüz) ziraat idâdîsi haline getirilmiştir.