Babil dönemine ait ünlü Sin Mabedi Harran'da inşa edildiği bilinen en eski anıtsal eserdir. M. Ö.2000 başlarına ait Kültepe ve Mari tabletlerinde Harran'daki Sin (Ay Tanrısı) Mabedi'nde bir antlaşma imza edildiğine dair bilgiler bulunmaktadır. Yine M. Ö. II. bininin ortalarına ait Hitit tabletlerinde, Hititlerle Mitanniler arasında yapılan bir antlaşmaya Harran'daki Ay Tanrısı Sin'in ve Güneş Tanrısı Şamas'ın şahit tutulduğu belirtilmektedir.
Yeri kesin olarak tespit edilemeyen Sin Mabedi'nin, höyükte, iç kalede ya da Ulu Camii'nin yerinde olduğu konusunda değişik fikirler ileri sürülmektedir. Bunlardan İbn-i Şeddad, bu mabedin Ulu Cami'nin yerinde olduğunu, Harran'ın 640 yılında İyâd b. Ğanem tarafından fethedilmesiyle bu mabedin camiye dönüştürüldüğünü, Paganistlere kendi mabedlerini yapmaları için başka bir yer verildiğini söylemektedir.
Rice'nin yaptığı kazılarda, Ulu Cami'nin doğu, batı ve kuzey avlu kapılarının girişinde ters vaziyette döşeme taşı olarak kullanılmış üç bazalt stel bulunmuştur. Babil Kralı Nabonid dönemine tarihlenen (M. Ö. V. yüzyıl) bu stellerden birinin Güneş Tanrısı Şamas'ı temsil ettiği tespit edilmiş, üçüncü stelin mahiyeti anlaşılamamıştır. Şanlıurfa Müzesi'nde sergilenmekte olan bu steller Ulu Cami'ye başka bir yerden getirilmiş olabileceği gibi, caminin yerinde bulunması muhtemel olan Sin Mabedi'ne ait de olabilirler. İkinci ihtimal İbn-i Şeddad'ın söylediklerine ağırlık kazandırmaktadır.
Dr. Nurettin Yardımcı 1985 yılı kazılarında höyüğün 36 DD ve 36 GG plan karelerinde bulduğu, Babil Kralı Nabunaid dönemine ait çivi yazılı iki tablette Sin Mabedi'nden ve E. HUL. HUL tapınağından söz edilmiş olmasına dayanarak mabedin höyükte olabileceğini ileri sürmektedir.
Harran'da XI. yüzyıla kadar varlıklarını sürdüren Sabiilerin h.474 (m.1081)'de Nûmeyrilerin valisi Yahya b. el-Şatr tarafından yıktırılan son mabedlerinin yeri, bugünkü kalıntılar arasında tespit edilememiştir.