La sua carriera da atleta inizia alla metà degli anni ’70 nella Roma allenata dal “Mago” Helenio Herrera. Dalla Capitale a Catanzaro, dove vive la parentesi più lunga e importante: dal 1974 al 1982 è uno dei baluardi della squadra calabrese che per sei anni milita in Serie A. Catania e Palermo sono le ultime tappe, prima di iniziare nel 1986 la proficua esperienza da tecnico.

Gli inizi sono al Vigor Lamezia e al Campania Puteolana. Cagliari è la prima piazza importante dove mostra le sue qualità: in due anni, i sardi passano dalla C al ritorno in A e vincno una Coppa Italia di serie C. Da qui l’approdo al Napoli. Partito Maradona, Ranieri dà fiducia al giovane Gianfranco Zola e la squadra conquista il quarto posto che significa Europa. Dopo un anno di stop, dal 1993/94 è alla Fiorentina, appena retrocessa. La riporta nella massima serie e prima di lasciare conquista una Coppa Italia e una Supercoppa Italiana.

Dal 1997, inizia la lunga avventura all’estero.
Prima tappa la Spagna, Valencia, con cui vince una Coppa del Re. Nel 1999 è all’Atletico Madrid. Nel 2000 il trasferimento in Inghilterra, sulla panchina del Chelsea con cui ottiene un secondo posto in Premier League e una semifinale di Champions League. Nel 2004 il ritorno a Valencia: un’esperienza più breve della prima, ma caratterizzata dalla vittoria di una Supercoppa Europea.

Nel febbraio 2007, dopo quasi due anni di inattività – periodo nel quale ha intrapreso la carriera di opinionista tv -, l’arrivo a Parma dove compie un’impresa, contribuendo alla salvezza del club.

E’ l’allenatore della Juventus dal 4 giugno 2007.