1973. szeptember 13-án született Nápolyban, a Fuorigrotta nevű negyedben nőtt fel, már tízéves korától az SSC Napoli különböző korosztályos csapatainak tagja volt. 1992 tavaszán kapott profiszerződést – egy évvel lemaradt a Maradona-korszakról. 1993. március 7-én, a Juventus elleni 4-3-ra elveszített meccsen mutatkozott be a Serie A-ban. 1995 nyarán, miután anyaegyesülete gyakorlatilag csődbe ment, átszerződött a Parmához. Alapemberré vált a sárga-kékeknél, 2002-es búcsújáig egyetlen fájdalma az maradt, hogy sohasem tudták megnyerni a bajnoki címet. Két évet töltött aztán a milánói Interben, de bajnok ott sem tudott lenni.

Bezzeg Torinóban az első bajnoki év (2004–2005) végén, már majdnem 32 évesen megszerezte az áhított scudettót, ám a szövetség ezt később visszavonta. Megsemmisítette a következőt is. Fabio Cannavaro a 2006-os bundabotrány, illetve a Juventus B-ligába száműzése (s persze a sikeres világbajnokság) után a Real Madridba igazolt, majd három év után visszatért Torinóba. Madridban meg sem tudta közelíteni olasz klubjaiban, illetve a válogatottban korábban mutatott játékát. Második korszakában csupán egy évet töltött a Juvéban, majd az Arab Emírségekbe, az Al Ahlihoz igazolt – levezetni.

Pályafutása alkalmasint a válogatottal elért sikerek miatt tartozik a legirigyeltebbek közé.

Az A-válogatottban 1997. január 22-én Észak-Írország ellen debütált, együtt az akkori szövetségi kapitánnyal, Cesare Maldinivel. Attól kezdve (a 2008-as Eb kivételével, amely előtt súlyosan megsérült) a 2010-es, dél-afrikai World Cuppal bezárólag minden nagy tornán játszott a Squadra Azzurrában, különösen a 2000-es Eb-n és a 2006-os világbajnokságon remekelt.

Az Eb-ezüstérmes csapatban egy félidő kivételével az egész torna összes olasz játékpercét a pályán töltötte. A döntőig vezető úton pazarul futballozott, az UEFA ítészei és a sajtó egyetértettek abban, hogy Cannavaro és Nesta a torna legjobb középső védőkettősét alkotta, noha az utolsó mérkőzés után felrótták neki, hogy Pirès aranygólt előkészítő beadása előtt hibázott. Paolo Maldini visszavonulása után ő lett a Squadra Azzurra csapatkapitánya.

Élete legjobb formájában a 2006-os németországi világbajnokságon játszott.

Az olasz szurkolók a torna után elnevezték Il Muro Berlinónak (Berlini falnak),

utalva arra, hogy szinte áthatolhatatlan akadályt alkotott az ellenfelek csatárainak. Az általa (és Gianluigi Buffon által) irányított védelem öt mérkőzésen nem kapott gólt, az egész tornán pedig összesen kettőt, egyiket sem akcióból. Fabio Cannavaro a torna után megkapta az ezüstlabdát – az újságírók a döntő előtt szavaztak, így lett-lehetett Zinedine Zidane az aranylabdás –, de aztán az év végi szavazásokon még előrébb lépett. Övé lett a France Football aranylabdája (1996, Matthias Sammer elsősége óta először kapta védő), majd a FIFA is a világ legjobbjának választotta. 2010-ben 136 válogatottsággal köszönt el az olasz válogatottól – akkor rekorder volt, azóta is csak Gianluigi Buffon előzte meg.

Hajdanán, még aktív játékos korában, a gyermekei nevét kínai írásjegyekkel magára tetováltatta. Mintha csak tudta volna, merre vezet az útja: 2015 óta egy idényt leszámítva kínai kluboknál dolgozik edzőként, utóbb már az öccsével, Paolóval együtt.