İlçe Basmil Kabilesi adı altında, Urfa ve şimdiki Arak Mezopotamya yöresinden gelenler tarafındankurulmuştur. Bismil’de çıkan eski mezar taşları 250-400 yıllıktır. Halkının önemli bir kısmı da Türmendir. Bunların bir kısmının Konya ve bir kısmınında Musul tarafından geldikleri söylenir. Önceleri köy durumunda olan bismil, bir ara nahiye olmuş, mermer ve akpınar da buraya bağlanmıştı. Sonra bu teşkilat dağıtılarak adı Şark olarak belirlenen bu nahiye merkezden idare olunmuştu.