Bilinen tarihi kaynaklara göre , İlçenin tarihi M.Ö. 2000 yıllarına kadar uzanır. Bölgeye M.Ö. 1450 yıllarında Mitanni Krallığı, M.Ö. 30, M.S. 180 yıllarında Roma İmparatorluğu , M.S. 1077’de Selçuklular hakim olmuşlardır. 1515 yılında doğuya sefer düzenleyen Osmanlı Hükümdarı Yavuz Sultan Selim tarafından Maden , imparatorluk topraklarına katılmıştır.