Çok eski tarihi bir geçmişe sahip olan Pazaryolu’nun eski adı “Norgah” olup “Yenişehir” veya “Sulak Yer” anlamına gelmektedir.
İlçemizde ilk yerleşim kesin olarak bilinmemekle birlikte yerleşimin M.Ö. Yıllara uzandığı tahmin edilmektedir.
Pazaryolu çevresi ile çoruh boyları 430 yılından önce Bizanslıların eline geçmiş olup, 662 de Emevi Hükümdarı I. Muaviye Erzurum’ u fethederek Bayburt İspir ve Pazaryolu’nu Emevi hükümdarlığı sınırları İçerisine almıştır.
949 yılında Bizanslı’ ların Erzurum’ u alarak, buradaki 300 yılllık islâm Emirliği’ne son vermeleriyle, Pazaryolu ve çevresi de Bizanslı hakimiyetine girmiş ve bölgede yeniden Ortodoks- Hıristiyanlık yerleşmiştir.
Türlerin Anadolu’ da fethettikleri ve yerleştikleri ilk yerleşim yerlerinden biri olan Pazaryolu ve çevresi, Selçuklu ordusunun 1048 zaferi ile Türklerin eline geçmiştir.
Osmanlı döneminde ise Yavuz Sultan SELİM’ in 1514 çaldıran zaferi dönüşünde fethedilerek Osmanlı topraklarına katılmıştır.
7 Kasım 1917’ deki Bolşevik İhtilali’ nden sonra çözülmeye başlayan Rus cephelerine yerleşen Ermeniler, bölgede kanlı çatışmaların yaşanmasına neden olmuşlardır. Yöre, 25 Şubat 1918’ de Milli Kurtuluşunu gerçekleştirmiş ve Türk idaresine kavuşmuştur.