Mehmet Nuri Yılmaz, 1943 yılında Erzurum’da doğdu. Küçük yaşta Kur’an-ı Kerim’i ezberledi ve devrin büyük alimlerinden Erzurum eski Müftüsü merhum Sakıp Danışman’dan dini ilimler tahsil etti.
Sarf, Nahv (Arapça Gramer), Maan, Bedi (Arap Edebiyatı), Mantık, Fıkıh, Fıkıh Usulü, Tefsir, Tefsir Usulü, Hadis, Hadis usulü, Feraiz, Kelam ve Farsça okuyarak icazetname aldı. İlk, orta ve lise tahsilini Erzurum’da bitirdi. Ardından da Yüksek öğrenimini Erzurum İlahiyat Fakültesi’nde tamamladı. Ankara Üniversitesi İlahiyat Fakültesi’nde Tefsir sahasında master yaptı.
İlk defa 1966 yılında Erzurum’da Kur’an Kursu öğreticisi olarak göreve başladı. Bundan sonra sırasıyla; Vaizlik, Kültür Bakanlığı Müşavirliği, aynı Bakanlıkta Müfettişlik, Vakıflar Genel Müdürlüğü’nde Vakıf Kayıt Mütehassıslığı ve Mütercimlik, Din İşleri Yüksek Kurulu Raportörlüğü, Din İşleri Yüksek Kurulu Uzmanlığı ve Çankaya Müftülüğü görevlerinde bulundu. Başarılı çalışmalarından dolayı Diyanet İşleri Başkanlığı’ndan takdirname aldı.
1990 yılında Din İşleri Yüksek Kurulu Üyeliğine seçildi. 10 Aralık 1991 tarihinde Diyanet İşleri Başkan Yardımcılığı’na atanan Mehmet Nuri Yılmaz, 3 Ocak 1992 tarihinde Diyanet İşleri Başkan Vekili, daha sonra 10 Eylül 1992 tarihinde de Diyanet İşleri Başkanı olarak atandı.
Mehmet Nuri Yılmaz’ın yazdığı bir “Kur’an-ı Kerim Meali” bulunmaktadır. Ayrıca; “İctihat Nedir, Mütehid Kimdir?” adlı basılı eseri ve yayına hazırlanmış “İbn-i Batuta Seyahatnamesi”, “Ah”lik ve Fütüvvet” bölümünün tercümesi ile “Kur’an’da Nesih”, “Sünni ve Şii İhtilafının İçyüzü” ve “Kur’an’da Talak” adlı eserleri vardır. Bilimsel toplantılarda; muhtelif konularda sunduğu tebliğleri ile gazete ve dergilerde yayınlanan çok sayıda röportaj, konuşma ve ilmi” makaleleri 5 cilt halinde kitap olarak yayınlandı.
İslamî ilimler üzerine özel dersler vererek halen çeşitli üniversitelerde ve Diyanet İşleri Başkanlığı’nın değişik kademelerinde görev yapan çok sayıda öğrenci yetiştirdi. Mısır Devlet Başkanı Hüsnü Mübarek tarafından “Devlet Nişanı” ile taltif edildi. Azerbaycan Bakü Uluslararası Ekoenerji Üniversitesi İslam Araştırmaları Fakültesi tarafından "İlahiyat Bilimleri Doktoru Diploması", Kırgızistan OSCH Üniversitesi tarafından da "Fahri Profesörlük Payesi" verildi. Ayrıca, aynı üniversite tarafından Azerbaycan'a götürülen hizmetler ve Azerbaycan-Türkiye ilişkilerine değerli katkılarından dolayı "Altın Şeref madalyası" ile ödüllendirildi.