Wepper kiskamaszként lépett először színpadra a Pán Péter című darabban. Pár évvel később, 1959-ben már Bernhard Wicki A híd című háborúellenes filmjében szerepelt, amely a Golden Globe-díjat is megkapta.
1972-ben Bob Fosse nyolc Oscarral díjazott Kabaré című filmjében láthatták a nézők. Wepper a produkcióban Fritz Wendelt játszotta.
A nemzetközi népszerűséget azonban a Derrick című ZDF-krimisorozat hozta meg számára, amelyben Derrick főfelügyelő beosztottját alakította.
A kultsorozat első epizódját 1974. október 20-án vetítették le, Stephan Derrick főfelügyelő és partnere, Harry Klein nyomozásait több mint száz ország televíziónézői láthatták azóta. A ZDF német televízió 24 év alatt 281 epizódot készített. Derrick és Klein a sorozatban a müncheni felső tízezer körében elkövetett gyilkosságok ügyében nyomozott. Az utolsó epizódot 1998-ban vetítette a csatorna. Utolsó szavaival Derrick megköszönte a segítséget partnerének, majd eltűnt a müncheni éjszakában. A címszerepet Horst Tappert játszotta, aki 2008-ban, 85 éves korában hunyt el.
Wepper emlékezetes alakítást nyújtott még a Te szent ég! című ADR-vígjátéksorozatban is, amelyben a minden hájjal megkent polgármestert, Wolfgang Wöllert játszotta 2002 és 2021 között.
Három éve daganatos betegséggel diagnosztizálták, és hosszú kórházi kezelés után 2022-ben térhetett haza.
