Mahmudiye Köyünün 2-3 km. güneyinde Kaletepe Mevkii denilen alanda yer alan medrese buradaki külliyenin bir parçasıdır. Yapım tarihi belli olmayan yapı, mimari özellikleri bakımından bir Selçuklu yapısı olduğunu göstermektedir. İki eyvanlı tipte, moloz taşla inşa edilen medrese kuzey-güney doğrultusunda kareye yakın bir planda yapılmıştır. Uzun giriş eyvanından üstü açık avluya geçilmektedir.
Alaca İlçesinin 3 km. güneyinde bulunan medrese pek az tanınan fakat orijinal bir mimari düzen göstermesi bakımından son derece ilginç bir yapıdır. Kitabesi olmadığı için yapım tarihi belli olmayan ancak mimari özellikleri göz önüne alınarak 13.yy ‘a tarihlenen yapı çevresindeki yapılarla birlikte bir külliye görünümü vermektedir. Birbirine geçme iki bölüm halinde düzenlenmiş olan yapı kompleksine doğudaki beyaz ve siyah mermerden yapılmış portalle giriş sağlanmaktadır.