A pécsi szakember játékosként csak szülővárosa csapatában futballozott, edzőként - a PMFC oldalán olvasható megemlékezésben - 217 bajnoki mérkőzés alkalmával ült a kispadon, ez azóta is megdönthetetlen rekordnak számít. Az 1985/86-os szezonban ezüstéremre vezette a mecsekaljaiakat, ezt sem sikerült megismételnie senkinek. Irányításával 1990-ban a Magyar Kupát is elhódították a pécsiek, egy évvel később pedig bajnoki bronzot nyertek.

Edzői pályafutása leghosszabb időszakát az MTK-nál töltötte, 1996 és 1998, majd 2004 és 2015 között irányította a kék-fehéreket, akikkel 1997-ben és 2008-ban is bajnoki címet nyert, valamint kétszer a Magyar Kupát is elhódította. Dolgozott az Újpestnél és a nagy rivális Ferencvárosnál is, ahol 2004-ben újabb bajnoki elsőséget gyűjtött be.

A legendás szakember az élvonalban összesen magyar csúcsnak számító 797 meccset tudhat magáénak, 1987-ben öt mérkőzésen szövetségi kapitányként irányította a magyar válogatottat, mérlege két győzelem, egy döntetlen és két vereség.

Garami József 2015-ben felhagyott az edzősködéssel, majd az MTK szakmai igazgatójaként tevékenykedett, 2020-ban hazatért Pécsre, ahol mentorként és szakmai koordinátorként dolgozott.