Şehir merkezinde, Kayseri surları ve kalesi geniş bir alana sahiptir. Roma İmporaloru III. Gordianus zamanına (M.S 238-244) ait sikkelerdeki bilgilere göre bu tarihte Kayseri’de surların inşa edilmiş olduğu anlaşılmaktadır. Bizanslılar döneminde Justinian (6.yy) şehri koruyabilmek için esas suru daraltmıştır. Bugün hala sağlam olan Kale iki kısımdan oluşmaktadır.
Yalçın yamaçlı bir dağ üzerine inşa edilmiş kale, kesin olarak hangi tarihte yapıldığı bilinmemektedir. Kale, stratejik bakımdan önemli Develi Ovası’nın kontrolünü rahatlıkla sağlayabilecek konumda. Üç kısımdan oluşan kalenin bugün çok az kalan kalıntılara rastlanmaktadır.
Öksüt köyünde aynı adlı derenin hakim yamaçlarında kurulmuştur.İlçemizde; Kale Köyü Kalesi, Tombak Kalesi, Deresimli Kalesi ve Köseler Kalesi yüksek tepelerde hakim görünüşleriyle ilgi beklemektedir.
Orta çağdan kalan, Selçuklu ve Osmanlı zamanında büyük hizmetleri dokunan kale, tarihi izler taşıyan önemli bir eserdir.
Pınarbaşı İlçemize bağlı Melikgazi köyündeki kale Selçuklulardan kalma ve günümüzde bakımsız bir haldedir.