Şebinkarahisar yerleşmesinin güneyinde bozalt bir tepe üzerinde kurulmuş olan kale, şehirden 160 metre daha yüksektedir. İlk görenler bu haliyle kaleyi denizde ada veya gemiye benzetirler. Planı bütünüyle bir yamuğu andırmaktadır. Kalenin kulelerle desteklenen surları sarp kayalara oturtulmuştur. Bu surları bazı kısımlarda daha önce ikinci bir sur kuşağı takviye eder. Surlarda değişik dönemlerin duvar yapım tekniklerini görebilmek mümkündür. Bazı kısımlarda kaya yontularak sur temeli yerleştirilmiştir.
Bazı kısımlarda ise düz yonu, moloz taş, veya balık sırtı duvar örgüleri yapılmıştır.
Kale, iç kale ve dış kale olarak iki bölümden müteşekkildir. İç Kale, aşağı kesimden yaklaşık 40 metre daha yüksektir. Şehirden dış kaleye ulaşan yol eski özelliğini halâ korur. Bu gün kullanılan sivri kemerli giriş kapısı iki kule arasına yerleştirilmiştir. Dış surların kapı bölümünde düzgün yontu taş kullanılmıştır.
Bugünkü giriş kapısının 15 m. Kuzeyinde kapatılmış bir kapı daha bulunmaktadır. Bu kapının Bizans döneminde 10. Yüzyıl başlarında tamir edilmiş olduğu sanılmaktadır. Dış kalenin en önemli bölümü, güneybatı köşesindeki "Kızlar Kalesi"dir. Dış kalenin diğer kesimlerinde güney ve doğuda surlar oldukça harap durumdadır.
Kale içerisinde eski yapı izleri ile, sarnıç kalıntılanna rastlanılmaktadır. Evliya Çelebi, kale içinde yetmiş kadar ev, sarnıç ve buğday ambarları ile Fatih Camiinden bahseder. Fakat bu caminin yerini belirlemek mümkün olmamaktadır. Aynca kalede var olduğu söylenen Kilise de belirlenememektedir. Kalede beş değişik su sarnıcı vardır. Bunlardan dördü kapalı, bir tanesi açıktır. Halkın 40 badal (basamak) dediği bu yer altı su tünellerinin örnekleri Hitit döneminde görülmektedir. Benzer bir tünel Çamoluk' un Kaledere köyü kalesinde bulunmaktadır.
İç kale, dikdörtgen bir avlu ile kuzeybatı köşesindeki sekizgen plânlı ve dört katlı büyük kuleden oluşmaktadır. İç kale kapısı da kulelerle desteklenmiştir. Büyük kulenin iç çapı 12 m. yüksekliği 27 m. Duvar kalınlığı 1, 5 m. dir. Kule köşeler, pencere ve kapı gibi açıklıklarının söge kısımları yonu, diğer kısımlar düzgün sıralar halinde moloz taşla örülmüştür. Duvarlarda alt sıradakiler mazgal, üsttekiler sivri kemerli büyük dikdörtgen açıklıklar halinde pencereler yer alır. Kulenin üçüncü katında kale yöneticisine ait bir mescit bulunduğu ve bunun Mengücükler zamanından kaldığı tespit edilmiştir. Kulenin Önünde beşik tonozla örtülmüş büyük bir sarnıç vardır. Kalenin sur duvarlarının çok az bir kısmında Bizans veya daha eski dönem yapı Özellikleri görülür. Kalenin bugünkü giriş kapısı ve çevresindeki surlar Selçuklu (Mengücekli), Osmanlı dönemlerine aittir. Kale kapısı üzerindeki kitabe ve Selçuklu çift başlı kartal kabartması da 1896 yılında Rumlar tarafından yerinden sökülüp yok edilmiştir. İç kale sur duvarları ve kule duvarlarının yapısı Osmanlı dönemi, 17-18. Yüzyıl özellikleri göstermektedir.
Şebinkarahisar kalesinin tarihlendirilmesi için kazı ve ayrıntılı araştırmalar yapmak gerekmektedir. Tarih bölümünde açıklandığı gibi muhtemelen kale Roma döneminden daha eskiye gitmektedir. Burası M. Ö.1. Yüzyılda Romalılar tarafından genişletilmiştir. Surlar, Mengüceklilerin 11. Yüzyılda şehri fethi sırasında harap olmuş ve geniş ölçüde yeniden inşa edilmiştir. Surlar daha sonra Osmanlı döneminde birkaç defa onarılmıştır. Kale 1915 yılındaki Ermeni ayaklanması sırasında bütünüyle tahrip olmuş bundan sonra da bir daha onarılmamıştır.