Joe Yule Jr. néven született New Yorkban, egy színészcsaládban. Nem csoda, ha már tizenöt hónaposan a világot jelentő deszkákra lépett, pontosabban totyogott; az előadásokon a közönség és az apró Joe is kitűnően érezte magát.

Filmezni hatévesen kezdett, elsőként egy dohányzó törpét alakított. Neve a Csendes komédia című burleszk-sorozattal vált ismertté, amelyben hat éven keresztül alakította a képregényhős Mickey McGuire-t. Az ő keresztnevét kölcsönvéve, immár Mickey Rooneyként került 1934-ben a Metro-Goldwyn-Mayer stúdió hivatásos gyermekszínész-képző iskolájába.

Hamarosan a leghíresebb filmsztárok oldalán forgathatott, nagynevű rendezők irányításával. A filmváros egyik legnépszerűbb, legtöbbet foglalkoztatott gyermekszínészeként szárnyára kapta a világhír. Karrierjének fordulópontja 1937-ben a Családi ügy című filmben a rokonszenves kamasz, Andy Hardy alakjának megformálása volt, a karaktert a siker nyomán 1956-ig húsz folytatásban keltette életre.

A második világháborúban bevonult, 21 hónap szolgálat után szerelt le. Hollywoodba visszatérve csalódottan kellett tapasztalnia, hogy "kiöregedett", már nem halmozták el szerepajánlatokkal. Világosan látszott, hogy ígéretesen induló pályája nem tud kiteljesedni, ő azonban nem adta fel. Minden feladatot elvállalt, volt narrátor, színházi turnékon vett részt, éjszakai klubokban lépett fel, nem túl sikeres filmek epizódszerepeit alakította, 1954-től saját tv-show-val jelentkezett. Karrierje mégis tartósan lefelé ívelt, alig néhány említésre méltó filmszerepe volt csak: A merész és a bátor, Álom luxuskivitelben, Ez egy bolond, bolond, bolond világ.

Ha művészi teljesítményével nem is, viharos magánéletével azért sikerült a média érdeklődését fenntartania. Egy időben keményen ivott és szerencsejáték-szenvedélye miatt majdnem csődbe is ment. Nyolcszor nősült és kilenc gyermeke van, feleségei között tudhatta a negyvenes-ötvenes évek szexbombáját, Ava Gardnert is. Nem kis felbolydulást keltett, amikor önéletrajzi kötetében kiteregette, hogy ő is járt a The T&M Studio nevű titokzatos hollywoodi bordélyházban, ahol a hölgyek a sztárok hasonmásai voltak, korábban ugyanis még az intézmény létezését is kétségbe vonták, noha mindenki beszélt róla.

A legenda szerint róla kapta nevét a világ egyik leghíresebb rajzfilm-figurája, Mickey Mouse: Walt Disney épp az első rajzokon dolgozott, amikor találkozott a gyermekszínész Rooneyval, és a kisegeret róla nevezte el.

Rooney apróbb szerepeket ma is vállal, egészségi állapota hajlott kora ellenére is megfelelő. Díjakkal, kitüntetésekkel nem kényeztették el, de 1938-ban tiszteletbeli ifjúsági Oscar-díjat kapott (ezt az 1961-ben megszűnt kategóriát 11-en kapták meg), 1983-ban pedig életmű Oscar-díjat vehetett át.