Rumkale Fırat ve Merzimen kıyılarından itibaren dimdik yükselen sarp kayalıklarla çevrili yüksek bir tepe üstüne kurulmuştur.1838 de Rumkaleyi ziyaret eden Moltke’ye “kayalığın nerede bittiğini, insan eserinin nerede başladığını söyleyebilmek çok zor” dedirtecek kadar doğayla uyumlu mimari özelliğe sahiptir.
Gaziantep Yavuzeli İlçesinde bulunan Dolmen mezarları, Yavuzeli-Araban yolunun batısında, biri Ballık Köyünde diğerleri ise Küçük Karakuyu Köyünün sınırları içerisinde bulunmaktadır. Yöre köylüleri tarafından “gavrikul (delikli taş)” olarak adlandırılan dolmen mezarları yaklaşık 650m. yükseklikten başlayarak 850 metreye kadar arazideki yayılımlarını sürdürmektedir.