Kovács András 1925. június 25-én született a Kolozsvár melletti Kidén, 1944 nyarán Budapesten akart filmet forgatni, de terveit keresztülhúzta a második világháborúból való balul sikerült kiugrási kísérlet. Az év végén hazament, és a kolozsvári Bolyai Egyetemre iratkozott be. Később azonban Budapestre szökött és felvették a színiakadémiára, 1950-es végzése után egy évvel már a Mafilm dramaturgiai osztályát vezette.
Első filmjét 1960-ban még "beugróként" rendezte: a Bessenyei Ferenc és Bara Margit főszereplésével készült, Zápor című alkotásnak dramaturgja és rendezőasszisztense lett volna, de a rendező betegsége miatt őt kérték fel a feladatra.
Igazán ismertté az 1964-ben bemutatott, nagy társadalmi visszhangot kiváltó Nehéz emberek című film tette, műve a magyar filmkritikusok díja mellett 1965-ben az első magyar játékfilmszemlén is elismerést kapott.
A nemzeti önismeret iránti érdeklődéséből született meg Cseres Tibor regénye alapján 1966-ban a Hideg napok, amely az 1942-es újvidéki vérengzést elkövető, magukat a "parancsra tettem"-mel mentegető kisemberek felelősségét vizsgálta. Az addig tabuként kezelt téma feldolgozása hatalmas vihart kavart, a film Karlovy Varyban és a Magyar Játékfilmszemlén is fődíjat kapott.
Nagy vitákat váltott ki az 1968-ban bemutatott Falak is, amely az erkölcsi alapokon nyugvó magatartásminták közti feszültségekkel foglalkozott. 1978-ban Madaras József főszereplésével készült a Ménesgazda, a rákosista diktatúra idején játszódó filmdráma, az egyik első alkotás, amely nyíltan beszélt az ötvenes évekről.
1983-ban Kiss Mari és Cserhalmi György főszereplésével forgatta a Szeretőket, majd két évvel később Andrássy Katinkáról, az első köztársasági elnök, Károlyi Mihály feleségéről A vörös grófnőt. Utolsó játékfilmje, Az álommenedzser 1993-ban készült.
A kilencvenes évektől már csak dokumentumfilmeket készített a televízió számára. Dokumentum- és játékfilmjei többségét rendezőként és forgatókönyvíróként is jegyzi. 1995-ben, hetvenedik születésnapján portréfilm készült róla A nehéz emberek címmel.
Közéleti szerepet is vállalt, 1981 és 1986 között a Filmművészeti Szövetség elnöke volt, 1988-ban a Károlyi Mihály Társaság alelnökévé választották. 1996 és 1998 között az MTV Közalapítvány kuratóriumi elnöki teendőit is ellátta.
Balázs Béla díjjal 1962-ben és 1965-ben, Kossuth díjjal 1970-ben tüntették ki, 1967-ben érdemes, 1980-ban kiváló művész díjat kapott, 2004-ben elnyerte a Magyar Mozgókép Mestere címet. 2003-ban megkapta a Magyar Filmszemle életműdíját, 2005-ben a Magyar Köztársasági Érdemrend középkeresztje a csillaggal kitüntetést vehette át.