Devich János 1962-ben a Zeneművészeti Főiskolán Friss Antal tanítványaként kapott diplomát, 1960-tól az Operaház zenekari tagja, 1985-től az Országos Filharmónia szólistája, 1966-ban a Kodály-vonósnégyes alapító tagja volt.
A Zeneművészeti Főiskola egyetemi docense, 1999 és 2008 között egyetemi tanára, 2008-tól emeritus professzora, 1998-tól a Nemzeti Kulturális Örökség Minisztériumának osztályvezetője, 2000 és 2002 között a művészeti főosztály vezetője volt. A Magyar Zenei Kamara alelnökeként 1992 és 1996 között, a Magyar Muzsikus Fórum társelnökeként 1996 és 1999 között, 1997-től a Magyar Zeneművészeti Társaság elnökeként tevékenykedett.
Lemezre játszotta Haydn összes vonósnégyesét, Beethoven, Schubert, Debussy, Ravel, Dohnányi, Kodály vonósnégyeseit. A Weiner Leó-verseny I. díját 1969-ben érdemelte ki, Liszt Ferenc-díjban 1970-ben, Bartók Béla-Pásztory Ditta-díjban 1996-ban részesült, érdemes művész 1990-ben lett. A Magyar Művészeti Akadémia (MMA) 2013 májusában rendes tagjai közé választotta.
Devich Jánosról szerdán a Bartók Rádió Muzsikáló délután című műsorában emlékeznek meg.