Michal Kovác 1930. augusztus 5-én született Kelet-Szlovákiában, a Homonnához (Humenné) közeli Szerelmesen (Lubisán). Kereskedelmi akadémiára járt, és elvégezte a pozsonyi Közgazdasági Főiskolát. Ugyanitt tanársegédként kezdte pályáját, majd 1955-ben a bankszakmában helyezkedett el, a Csehszlovák Állami Bank pozsonyi területi filiáléjánál lépett szolgálatba. 1964-65-ben Kubában oktatott, 1967-68-ban pedig a Zivnostenská kereskedelmi bank londoni helyettes vezetője volt. Onnan hazarendelték, és az 1970-es tisztogatások alkalmával kizárták a kommunista pártból. 1971-78-ban ismét banktisztviselőként dolgozott Pozsonyban, 1978-tól 1989-ig a Központi Nemzetgazdasági Tervezési Hivatal tudományos munkatársaként tevékenykedett.

Az 1989-es forradalom után pénzügyminiszter lett a Vladimír Meciar alakította szlovák "nemzeti egyetértés" kormányában. 1990-92-ben az első szabadon megválasztott csehszlovák Szövetségi Gyűlésben előbb a Nyilvánosság az Erőszak Ellen (VPN), majd a Mozgalom a Demokratikus Szlovákiáért (HZDS) képviselője volt. Vladimír Meciar 1990 júniusában megalakított első kormányában is a pénzügyminisztériumot vezette, míg 1991 májusában, Meciar visszahívása után ő is lemondott.

Az 1992. évi választásokon a Meciar vezette HZDS színeiben ismét bejutott a Szövetségi Gyűlésbe, amelynek elnöki tisztét is betöltötte 1992. december 31-ig, Csehszlovákia kettéválásáig. 1993. február 15-én a Szlovák Nemzeti Tanács az önálló Szlovák Köztársaság első elnökévé választotta. Ezután kilépett a HZDS-ből, amelynek 1991-től alelnöke volt.

Michal Kovác elnöki esküjéhez híven a demokrácia és a jogállam, valamint az európai normák érvényesülését kívánta szolgálni és egyfajta mértéktartó kiegyensúlyozó szerepet betölteni, miközben hajdani mozgalma és Meciar kormánykoalíciója részéről egyre több támadás érte. 1998. március 2-án államfői posztjáról leköszönt. Mivel utódjáról nem sikerült a parlamentnek döntenie, lemondását követően Vladimír Meciar miniszterelnök - akivel igen megromlott a viszonya - vette át a jogköreit.

Lemondása másnapján egy müncheni bíróság 150 ezer márka óvadék ellenében kiengedte a vizsgálati fogságból fiát, ifj. Michal Kovácot, akit 1995-ben ismeretlen tettesek elraboltak, majd nemzetközi elfogatóparancs alapján Csehországban őrizetbe vettek, a Technopol külkereskedelmi cég kárára elkövetett csalásban való részvétele miatt. (Elrablásának körülményei máig tisztázatlanok erőszakos külföldre hurcolásával az egykori titkosszolgálati igazgatót, Ivan Lexát hozták összefüggésbe.)

1998 novemberében Michal Kovác bejelentette, hogy újra indul az államfői posztért, amelyre nem sikerült az utódját megválasztani. 1999. május 11-én bejelentette, hogy Rudolf Schuster javára visszalép a megmérettetéstől, lépésével a négypárti kormánykoalíció közös jelöltjének pozícióját igyekezett erősíteni, mondván "Szlovákia és a demokrácia sikere számára olyan fontos érték, amelyet nem szabad a meciarizmus visszatérésével veszélyeztetni".

Azóta a nagypolitikától visszavonultan élt, feleségével egy alapítványt vezettek.

Időközben egészségi állapota is megromlott, 2009-ben hozták nyilvánosságra, hogy Parkinson-kórban szenved.