Dans les sélections de jeunes, à Naples, il prend pour modèle le rugueux défenseur Ciro Ferrara alors qu'un certain Diego Maradona évolue dans l'équipe. Il débute avec l'équipe première à 20 ans, contre la Juventus de Turin (3-4). Le club est alors loin des années fastueuses du "Pibe de Oro" et lutte pour le maintien. Ses bonnes prestations l'emmènent à signer à l'issue de la saison 94/95 au Parme AC.
Son duo avec Lilian Thuram est l'un des plus performants du Calcio et forme avec Gigi Buffon une excellente défense. Il remporte l'adhésion de ses nouveaux partenaires et supporters, alignant des performances relativement solides, il remporte le titre de champion d'Europe des moins de 21 ans à deux reprises (1994 et 1995).
Cette trajectoire claire, nette et sans bavure l'emmène en sélection nationale en 1997.
Il débute avec la Squadra Azzura contre l'Irlande du Nord (2-0). 90 sélections plus tard, Fabio Cannavaro est considéré par les supporters de la squaddra azzura comme l'un des meilleurs défenseurs du monde. La charnière centrale qu'il forme avec Alessandro Nesta est redoutée, rugueuse et assez expérimentée que Marcello Lippi en a fait son capitaine depuis juillet 2004.
En marge de sa carrière internationale, il remporte deux coupes d'Italie (1999 et 2002), celle de l'UEFA (1999), et la Supercoupe d'Italie (2000).
En 2003/2004, sa saison est gâchée par une fracture du tibia. Il signe à la Juventus alors qu'il n'est pas encore totalement rétabli. Il y retrouve Thuram et Buffon, ce qui lui permet de reformer la défense de Parme. Ensemble, les inséparables échouent face à Liverpool en Ligue des Champions futur lauréat, malgré un but de Fabio Cannavaro (1-2).
En 2006 il devient champion du monde avec l'équipe d'Italie.
Le 19 juillet 2006, il est transféré avec Emerson au Real Madrid pour un montant de 20 millions d'euros pour une durée de deux ans avec possibilité de prolongation et rejoint Fabio Capello, qui l'entraînait à la Juventus.
Le 27 novembre 2006, il reçoit le ballon d'or du bi-hebdomadaire [[France Football] malgré une saison en demi -teinte ponctué par une véritable humiliation subi de la part de l'ataquant norvégien de Lyon John carew lors d'un match de poule de ligue des champions
Son passé et ses prises de position divisent l'Italie et le monde sportif. On cite ainsi le soutien qu'il apporta à l'ex-directeur général de la Juventus Turin, accusé de manipuler l'arbitrage des matches du calcio, ou encore le petit documentaire qu'il réalisa sur lui-même en train de recevoir une perfusion d'un "reconstituant" dans une chambre d'hôtel à Moscou à la veille de la finale de Coupe UEFA de 1999. On lui reproche encore de ne jamais avoir présenté ses excuses au joueur Gaby Mudingayi, dont il fractura la jambe en 2006.
