Sırasıyla İspir, Doğubeyazıd, Bitlis, Urfa ve Gümüşhane Naibi (Kadı vekili, Kaza kadısı) oldu. İstanbul’da geçici bir vazife ile bulununca, İttihat ve Terakki Fırkası’na girdi. Bir süre sonra Erzurum kadısı tayin edildi.
1913 yılında II. Osmanlı Meclisine Erzurum mebusu seçildi ve mebusluğu III. Mecliste de devam etti. 1918’de İstanbul’da "Vilayet-i Şarkiye Müdafa-i Hukuk-i Milliye Cemiyeti" kurucularından oldu.
Mondros Mütarekesini izleyen işgal günlerinde Erzurum’a gelerek kurtuluş çaresi aramaya başladı. Mustafa Kemal Anadolu'ya geçerek Erzurum’a geldiğinde, kongrenin sonuna kadar kendisine yardımcı oldu. Kongrenin birinci gününde ve açılışında, Mustafa Kemal Kongre Başkanı seçilinceye kadar kongreye başkanlık yaptı. Erzurum Kongresi sonunda Temsil Heyetine seçilip Erzurum adına Sivas kongresine katıldı.
Hoca Raif Efendi 1923 yılında Erzurum, 1927’de Zonguldak, 1942’de Rize ve 1946’da yine Erzurum milletvekili olarak TBMM de bulundu.
30 Ekim 1949’da İstanbul’da Milletvekili iken vefat etti.
