Süper Lig ekiplerinden Sivasspor'da kariyerini sürdüren Sefa Yılmaz, 14 Şubat 1990 tarihinde gurbetçi bir ailenin çocuğu olarak Almanya'nın başkenti Berlin'de dünyaya geldi. Aslen Trabzonlu bir anne ile Giresunlu bir babanın evladı olan yetenekli oyuncu, futbola olan tutkusunu Kreuzberg sokaklarında ağabeyiyle oynayarak keşfetti. Sokaklarda başlayan bu serüven onu profesyonel arenalara taşıdı. Berlin'in amatör sahalarında başlayan yolculuğu, zamanla Avrupa ve Türkiye liglerinin parlayan yıldızlarından birine dönüşmesini sağladı.
Almanya Yılları ve Wolfsburg Altyapısı
Sefa Yılmaz, futbol eğitimine Kreuzberg'in köklü amatör ekiplerinden Eintracht Südring Berlin bünyesinde adım attı. Burada gösterdiği üstün yetenek sayesinde büyük kulüplerin radarına girmeyi başarıdı. Ailesinin Schöneberg bölgesine taşınmasıyla beraber 1. FC Schöneberg altyapısına transfer olan futbolcu, kısa süre sonra yıldız isimler yetiştiren Tennis Borussia Berlin ekibine katıldı. Burada 2006 yılına kadar forma giyen genç yetenek, gösterdiği performansla hem VfL Wolfsburg hem de Bayern Münih scoutlarının dikkatini çekmeyi başarıdı.
Genç yaşı nedeniyle ailesine yakın olmak isteyen Yılmaz, Bayern Münih yerine Berlin'e daha yakın olan Wolfsburg'u tercih etti. Wolfsburg altyapısında sergilediği oyunla göze girdi. U-19 takımında Christian Benbennek yönetiminde sergilediği performansla takımını finale taşısa da kupayı Freiburg'a kaptırdılar. Yeteneği dönemin teknik direktörü Felix Magath tarafından fark edilince A takım idmanlarına dahil edildi ve kaptan Marcelinho ile özel çalışmalar yaptı. VfL Wolfsburg II takımında çıktığı 34 lig maçında 5 gol ve 5 asist üreterek dikkat çekti.
Sefa Yılmaz'ın Wolfsburg yıllarında birlikte idmana çıktığı ve tecrübe edindiği dünyaca ünlü yıldızlardan bazıları şunlardır:
- Edin Džeko
- Grafite
- Andrea Barzagli
- Marcelinho
- Obafemi Martins
2010-11 sezonunda Steve McClaren'ın gelmesi ve kadronun yıldız isimlerle dolması üzerine takımdan ayrılma kararı aldı. 180.000 Avro bonservis bedeliyle MSV Duisburg ekibine transfer olan oyuncu, burada ilk 11'in değişmez parçası haline geldi. Duisburg formalarıyla iki kanatta Olcay Şahan ile harika bir uyum yakalayarak takıma büyük katkı sundu. Takımıyla beraber DFB-Pokal finaline yükselme başarısı gösterdi. Finalde Schalke'ye mağlup olsalar da sergilenen futbol akıllarda kaldı.
Türkiye Macerası ve Kayserispor Yılları
Duisburg'daki başarılı sezonunun ardından Türkiye'den teklifler alan Sefa Yılmaz, 2011 yılında 570.000 Avro karşılığında Kayserispor'a transfer oldu. Shota Arveladze yönetimindeki Kayseri temsilcisinde sergilediği yaratıcı kanat akınlarıyla ligin en çok konuşulan isimleri arasına girmeyi başardı. İlk sezonunda 30 maça çıkarak 2 gol ve 8 asistlik katkı sağladı. Gösterdiği performansla üç büyüklerin de dikkatini çeken oyuncu, kulübünün yüksek bonservis beklentisi nedeniyle takımda kaldı. 2012-13 sezonunda ligde 27 maçta 7 gol ve 6 asist gibi verimli bir istatistik yakaladı.
2013-14 sezonunda Kayserispor, oyuncunun bonservisini 7 milyon Avro olarak belirleyince beklenen büyük transfer gerçekleşmedi. Robert Prosinecki döneminde zaman zaman sağ bek olarak da görev alan futbolcu, yaşadığı şanssız ayak kırığı sakatlığı nedeniyle uzun süre sahalardan uzak kalmak zorunda kaldı. O sezon çıktığı 23 resmi karşılaşmada 4 gol ve 2 asist üretmesine rağmen takımının küme düşmesine engel olamadı. Tecrübeli futbolcu, kariyerinin ilerleyen döneminde transfer olduğu Sivasspor çatısı altında Süper Lig mücadelesine devam etmektedir.