Mardin kenti, temel yapım malzemesi olarak kolay işlenebilen sarı kalker taşının kullanıldığı, çeşitli motiflerle bezenmiş geleneksel evleriyle de ünlüdür. Bölgedeki çok sayıda ocaktan çıkarılan sarı kalker taşı, yapı üretimine egemen olmuş; kapı, pencere, asma kat gibi zorunlu kullanımların dışında ahşap işçiliğine yer verilmemiştir.
Evleri, 4 m. yüksekliğe ulaşan duvarları çevirir ve sokaktan ayırır. Bu duvarlarla sert iklime karşı korunma sağlanır. Yazlık denilen iç avlu veya bahçede, eskiden ahır olarak kullanılan, günümüzde ise depo işlevi gören mekanlar yer alır. Eyvan, yazın yaşamın geçtiği bölümdür. Mimaride önemli bir yere sahip olan eyvan ve revak gibi yarı açık kısımlar, özellikle batı güneşine karşı gölgede kalacak biçimde yapılmıştır. Mardin evlerinin en önemli özelliği taş işçiliğidir. Kapı ve pencereleri, sütuncuklar, kemerler ve değişik motiflerle süslenmiştir.
Merkez yerleşim, 1979 yılında kentsel SİT ilan edilmiştir.