1977 yılında Erzurum'da doğan Oktay Yılmaz, küçük yaşta ailesiyle birlikte Bursa'ya yerleşti. Bursa İmam Hatip Lisesi'nden mezun olduktan sonra Kırıkkale Üniversitesi Makina Mühendisliği Bölümü'nü bitirdi. Üniversite eğitiminden sonra makine mühendisi olarak iş hayatına atılarak kendi firmasıyla uzun yıllar boyunca Bursa için katma değer üretti.
Aktif siyaset hayatına 2006 yılında AK Parti’ye üye olarak başladı. Osmangazi İlçe Teşkilatı'nda 3 dönem İlçe Başkan Yardımcılığı görevini yerine getirdikten sonra, Osmangazi ve Büyükşehir Belediye Meclis Üyeliği yaptı.
17 Aralık 2017 tarihinde AK Parti Yıldırım İlçe Başkanı olarak göreve başlayan Oktay Yılmaz, 31 Mart 2019 yerel seçimlerinde AK Parti'den Yıldırım Belediye Başkanlığı'na seçildi. 31 Mart 2024 tarihinde gerçekleşen yerel seçimlerde ilçe sakinlerinin teveccühü ile yeniden Yıldırım Belediyesi Başkanı olarak seçilerek görevini sürdürmektedir.
30 Mayıs 2024 tarihinde yapılan seçim ile Bursa Belediyeler Birliği’nin 6. Başkanı olan Oktay Yılmaz aynı zamanda Kültür Turizm ve Tanıtma Birliği Başkanlığı, Büyükşehir Belediyesi 1. Başkan Vekilliği görevini yürütmektedir.
Oktay Yılmaz evli ve 3 çocuk babasıdır.