İlçenin ilk bilinen adı Tavusker’dir. Tavusker adı ise eski tarihi kaynaklara göre Kafkasya’da Derbent kesimlerinde yaşayan Saka-İskit Türk boylarından biri olan Ta-Ok lardan gelmektedir. İlk zamanlarda bu Türk boyunun yaşadığı alana Dav-Eli denilmektedir. Daha sonraları ise Tahoskar zamanla Tavusker şekline dönüşerek günümüze kadar gelmiştir. Bu ad ise tahminlere göre M. S. 350 yılından itibaren kullanılmaktadır. Olur adının ise yörede yapılan “lor peyniri”nden geldiği söylenilmektedir. Anlatılanlara göre Olur’a Devlet büyüklerinden biri gelir, ona lezzetli olan bu lordan ikram edilir. İkram edilen bu lor peyniri Devlet büyüğünün hoşuna gider. Gittiği yerde çevresindekilere “Şimdi o lordan olsa da yesek” der. Bunun üzerine ilçeye ‘OLOR’ daha sonra OLUR denildiği rivayet edilir.
Selçuklular zamanında ilçemiz Saltukoğulları Beyliği’ne bağlı olarak kalmış bu durum Moğol istilasına kadar devam ederek, istila sonrası Moğollara bağlanmış, daha sonra Fatih Sultan Mehmet’in Trabzon’u fethiyle ilçe civarları da Osmanlı sınırlarına dahil olmuştur. 15. yüzyıl ortalarında Ahıska, Şavşat, Çıldır, Ardanuç, Tortum, Oltu, Olur, Yusufeli adı ile beş bölgede beş kola ayrılan Atabekler yurdu olarak ilçemiz de anılmaktadır.
Asıl buhranlı dönem, yörede “93 Harbi” denilen, 1877-1878 Osmanlı-Rus savaşı ile başlamıştır. Bu savaşta Doğu Cephesi komutanı Gazi Ahmet Muhtar Paşa’nın Rusları Zivin Gedikler Muharebesi’nde yenmesine rağmen bu başarısı üstün Rus kuvvetleri karşısında Osmanlı ordusu Erzurum’a çekilmek zorunda kalmıştır. 1878’de Ruslarla yapılan Berlin Antlaşması ile Batum, Kars, Ardahan, Eleşkirt, Doğubeyazıt, Oltu, Şenkaya ve ilçemiz dahil bölgemiz Ruslara savaş tazminatı olarak verilmiştir. 1917 yılında Rusya’da çıkan Bolşevik İhtilali nedeniyle yörede bulunan Rus birlikleri birtakım ağır silah ve mühimmatı bölgedeki Ermenilere bırakarak çekilmişlerdir. Silah ve cephane yönünden güçlenen Ermeniler Oltu Sancağı’nın Olur’a bağlı 26 köyünde sürekli katliam yaparak köyleri acımasızca yakıp yıkmışlardır. Bunun üzerine bölgede silahlı milisler oluşturularak yöre halkı örgütlenmiştir. Örgütlenen yöre halkı Ermenilere karşı direniş hareketleri başlatmıştır. Daha sonra 6. Tümen komutanı Yarbay Gürsel Bey komutasındaki birlikler 25 Mart 1918 de Oltu’yu; aynı birlikler Olur çevresinde oluşturulan milis kuvvetleri ile birilikte 28 Mart 1918’de de Olur ve civarını da düşman işgalinden kurtarmışlardır.
İlçemiz 1958 yılına kadar Oltu ilçesine bağlı bucak olarak kalmış 1958 yılında ise ilçe olmuştur.