Fokvárosi búr családban született 1940-ben, apja ügyvéd, anyja tanítónő volt. A fokvárosi egyetemen hallgatott nyelvészetet és matematikát. Az apartheid rendszer iránti gyűlölete, a besorozástól való félelme, a provincializmus fojtogató szorításából való szabadulási vágya miatt 1962-ben Angliába utazott. Előbb Londonban volt számítógép-programozó, majd Berkshire-ben egy számítástechnikai cég alkalmazottja lett. Munkája során titkos hadiipari fejlesztésekbe is bepillanthatott, s mivel eredendően pacifista beállítottságú, egy év után felmondott. A munka mellett folyamatosan írt, leginkább verseket, amelyeket később ő sem értékelt valami sokra.
1965-ben Fulbright ösztöndíjjal az Egyesült Államokba utazott, és a texasi egyetemen folytatott tanulmányokat. 1969-ben megkapta az irodalomtudományok doktora címet, disszertációját Beckettről írta. A buffalói egyetemen lett tanársegéd, s ezzel egy időben kezdett prózai műveket írni. Igen aktív közéleti szerepet is vállalt, felemelte szavát a vietnámi háború, az Egyesült Államok gyarmatosító törekvései ellen, a háborúellenes tüntetéseken való részvételért többször letartóztatták.
1971-ben visszatért hazájába, és a fokvárosi egyetem tanára lett. Első regénye, a Sötétség 1974-ben jelent meg, ezt követte 1977-ben Az ország mélyén című naplóregény, amely egy elmebeteg nő belső világát ábrázolja. A mű elnyerte a legrangosabb dél-afrikai irodalmi elismerést, a CNA Irodalmi Díjat. Az igazi nagy sikert az 1980-as Barbárokra várva jelentette számára: az erőteljes és nyomasztó regény több elismerést is kapott, többek között Geoffrey Faber-díjat, James Tait-emlékdíjat, és ismét elnyerte a CNA Irodalmi Díjat. Bár már e művének világa is kafkai hangulatú, még inkább ilyen az 1983-as Michael K. élete és kora, amely elnyerte a legrangosabb brit irodalmi elismerést, a Booker-díjat.
1983-ban Coetzee az irodalomtudományok professzora lett a fokvárosi egyetemen, és ettől kezdve "utazó" professzorként is működött. 1999-ben jelent meg Szégyen című regénye, amelyben az apartheid rendszer megszűnésének hatását elemzi egy elbocsátott irodalomprofesszor sorsán keresztül. A sötét hangvételű mű többek között elnyerte a Booker-díjat is, s így ő az egyetlen szerző, aki kétszer is megkapta ezt az elismerést. Számos irodalomkritikai írást is publikált, s több esszégyűjteményt is közreadott. Legutóbb 2013-ban jelent meg regénye, a különös hangulatú, utópisztikus Jézus gyermekkora. Legtöbb műve magyarul is olvasható.
Nyugdíjba vonulása után 2002-ben élettársával, Dorothy Driverrel Ausztráliába, Adelaide-ba települt át, ahol a helyi egyetemen megkapta a "tiszteletbeli kutató" címét. 2003-ig fenntartotta professzori állását is a chicagói egyetem Társadalmi Gondolat Bizottsága nevezetű fakultásán. 2006-ban ausztrál állampolgár lett.
2003-ban a Svéd Akadémia neki ítélte az irodalmi Nobel-díjat, egyebek között azzal indokolva a döntést, hogy Coetzee regényeit "jól felépített szerkezet, gazdag párbeszédek és briliáns elemzések jellemzik". 2005-ben a dél-afrikai kormány az "Order of Mapungubwe" nemzeti rendjelet adományozta neki az irodalom érdekében végzett kivételes munkájáért.
A zárkózott, következetesen antialkoholista és vegetáriánus író talán legtöbbet kétkötetes életrajzi művében árult el magánéletéről. Ebből megtudhatjuk, hogy első házasságából egy fia és egy lánya született, de fia 23 éves korában baleset áldozata lett, s nem sokkal később rákban meghalt Coetzee volt felesége is.