Ferdinánd 1503. március 10-én született Szép Fülöp kasztíliai király és Õrült Johanna második fiaként, bátyja V. Károly német-római császár és spanyol király volt.

Nagyapjuk, I. Miksa 1519-ben bekövetkezett halála után a trónt V. Károly örökölte, akinek egyik első dolga az volt, hogy eltávolítsa öccsét az országból és az osztrák örökös tartományok irányításával bízta meg. Az egymással igen hűvös viszonyban álló két testvér 1521-ben a wormsi gyűlésen titkos szerződést kötött: Károly átengedte Ferdinándnak a keleti tartományok igazgatását, ez alapozta meg a Habsburgok spanyol és osztrák ágának különválását. Ferdinánd Bécsbe érkezve újjászervezte a közigazgatást, felállította azokat a minisztériumoknak megfelelő hivatalokat, amelyek aztán évszázadokon át burjánoztak, létrehozta az udvari tanácsot, a titkos tanácsot, az udvari kamarát és az udvari kancelláriát.

1521-ben feleségül vette Jagelló Annát, II. Ulászló magyar és cseh király lányát, ugyanakkor Ferdinánd húga, Habsburg Mária Ulászló fia, II. Lajos felesége lett. Miután II. Lajos az 1526-os mohácsi csatában életét vesztette, sógora magának követelte országait. A cseh rendek 1527-ben egyhangúlag választották meg, de a magyar rendek 1526 novemberében Szapolyai János erdélyi vajdát választották meg királyuknak. Kisebb részük decemberben (a Ferdinánd fegyvereinek árnyékában megtartott) pozsonyi diétán érvénytelennek nyilvánította Szapolyai megválasztását és a jelen sem lévő Ferdinándot választotta meg királynak. A döntést 1527 októberében Budán megerősítették és novemberben a Habsburg uralkodó fejére is rákerült a Szent Korona. A kettős királyválasztás után évtizedes harc kezdődött, a nemesség érdekei szerint hol János, hol Ferdinánd oldalára állt.

Ferdinánd a bátyja által küldött pénzen sereget toborzott, és 1528-ra kiszorította Jánost az országból. Szapolyai ezután a töröktől kért támogatást, akik 1529-ben elfoglalták és Jánosnak adták át Budát, majd sikertelenül Bécset is megostromolták. Ferdinánd és János végül elismerte, hogy egyikük sem tudja legyőzni a másikat, és 1538. február 24-én Váradon titkos megállapodást kötött. A szerződés az ország keleti részét Szapolyainak, a nyugatit Ferdinándnak adta és kimondta: János halála után az egész ország Ferdinándra száll.

Az idős János a következő évben elvette Izabellát, a lengyel király lányát és 1540-ben, halála előtt három héttel fia született. A csecsemő János Zsigmondot Szapolyai tanácsadója, Fráter György nyomására 1540-ben a váradi békét megszegve királlyá választották, ezzel tartóssá vált a megosztottság. Ferdinánd 1541-ben sikertelenül ostromolta meg Budát, amely az év augusztusában török kézre került, ezzel az ország immár három részre szakadt: a Magyar Királyság (Nyugat- és Észak-Magyarország) Ferdinánd, a középső országrész az egyre nagyobb területet meghódító törökök uralma alá került, Erdélyt I. Szulejmán szultán "nagylelkűen" átengedte János Zsigmondnak.

Ferdinánd az 1547-es drinápolyi békében elismerte Szulejmán hódításait, sőt saját területei után is évi adót fizetett a Portának. Ferdinánd ezután nekilátott az új védelmi vonal, a végvárrendszer kiépítésének, miközben 1551-ben tárgyalásokat kezdett Fráter Györggyel Erdély és a Magyar Királyság egyesítéséről. Ferdinánd félreismerte a cél érdekében a török felé is gesztusokat tevő barát "hintapolitikáját", 1551 decemberében meggyilkoltatta Fráter Györgyöt és elfoglalta Erdélyt. A következő évben a török megtorló hadjárata során bevette Veszprémet, Temesvárt, Szolnokot, az ostromot csak Eger vára állta ki, Ferdinándnak 1556-ban Erdélyt is vissza kellett adnia János Zsigmondnak. Az ország életét hosszú évszázadokra meghatározták Ferdinánd döntései: Pozsonyban nem szüntette meg a magyar nádor vezette királyi tanácsot, ugyanakkor a hadi és a külpolitikai kérdésekben csak Bécs határozhatott.

Ferdinándnak a német területeken is súlyos nehézségekkel kellett szembenéznie. A német-római császári címet is viselő V. Károly 1546-ban támadást indított a protestáns német fejedelmek ellen és 1547-ben vereséget mért rájuk. Öt évvel később fordult a kocka, a franciák támogatását is élvező protestánsok látszottak felülkerekedni, és Károlynak fegyverszünetet kellett kötnie. A csalódott császár testvérét, Ferdinándot bízta meg a tárgyalásokkal, így jött létre az 1555-ös augsburgi vallásbéke, amely az "akié a föld, azé a vallás" elv alapján rendezte a tartományok vallási helyzetét, teremtett viszonylagos nyugalmat.

V. Károly a követező évben lemondott és egy spanyolországi kolostorba vonult vissza. A német-római császári trónon öccse, Ferdinánd követte, Spanyolországot, a Nápolyi Királyságot, Németalföldet és az amerikai gyarmatokat Fülöp fiára hagyta, ezzel véglegesült a Habsburg-ház spanyol és osztrák ágra szakadása.

Ferdinánd mélyen vallásos, tiszta életű ember volt, példás házasságban élt Jagelló Annával, aki 15 gyereket szült neki. Anyanyelve a spanyol volt, de jól beszélt latinul, olaszul, franciául és megtanult németül is. Vallásos nevelést kapott, de vérbeli humanista is volt, aki kedvelte és támogatta a tudósokat. Lovagolni, vadászni szeretett, de - jóllehet a vallásháborúk és a török elleni harc idején számos alkalma lett volna rá - soha nem járt csatatéren.

I. Ferdinánd 1564. július 25-én halt meg Bécsben, 61 éves korában. Uralkodói nagyságát még ellenfele, Szulejmán szultán is elismerte. "Benne valóban igazságos, becsületes fejedelmet vesztettek népei" - mondta az általa csak "bécsi királynak" elismert Ferdinánd halálakor.