Çok eski tarihi bir geçmişe sahip olan Pazaryolu’nun eski adı “Norgâh” olup “Yenişehir” veya “Sulak Yer” anlamına gelmektedir.
İlçede ilk yerleşim kesin olarak bilinmemekle birlikte yerleşimin M.Ö. yıllara uzandığı tahmin edilmektedir. Milat öncesi yıllarda Sapser Türklerinin Doğubeyazıt ile Çoruh vadisi arasına yerleştikleri ve uzun süre bu yörede yaşadıkları tarihçi Prof. Dr. Fahrettin Kırzıoğlu`nun "İspir" adlı eserinde ifade edilmektedir.
Pazaryolu çevresi ile Çoruh boyları 430 yılından önce Bizanslı'ların eline geçmiş olup, 662 yılında Emevi Hükümdarı I. Muaviye Erzurum’u fethederek Bayburt, İspir ve Pazaryolu’nu Emevi hükümdarlığı sınırları içerisine almıştır.
949 yılında Bizanslı’ların Erzurum’u alarak, buradaki 300 yılllık İslâm Emirliği’ne son vermeleriyle, Pazaryolu ve çevresi de Bizanslı hakimiyetine girmiş ve bölgede yeniden Ortodoks-Hristiyanlık yerleşmiştir.
Türklerin Anadolu’da fethettikleri ve yerleştikleri ilk yerleşim yerlerinden biri olan Pazaryolu ve çevresi, Selçuklu ordusunun 1048 zaferi ile Türklerin eline geçmiştir. Osmanlı döneminde ise Yavuz Sultan Selim’in 1514 Çaldıran Zaferi dönüşünde fethedilerek Osmanlı topraklarına katılmıştır. Bugün bölgede halen Selçuklu ve Bizans dönemlerine ait kale ve hamam gibi eserlere rastlanmaktadır.
1917’deki Bolşevik İhtilali’nden sonra çözülmeye başlayan Rus cephelerine yerleşen Ermeniler, bölgede kanlı çatışmaların yaşanmasına neden olmuşlardır. Yöre, 25 Şubat 1918’ de Milli Kurtuluşunu gerçekleştirmiş ve Türk idaresine kavuşmuştur.
