Jómódú középosztálybeli családból származott, egyik unokatestvére Heltai Jenő volt. A család 1878-ban Bécsbe költözött, a neológ légkörben nevelkedett Herzl az ottani jogi karon tanult, később mérsékelt sikerű drámákat írt és újságíró lett.
Párizsi tudósítóként megdöbbentette a Franciaországban erőre kapó antiszemitizmus, amelyet tovább szított a Dreyfus-ügy (ebben egy zsidó katonatisztet fogtak koholt vádakkal perbe), illetve hogy 1895-ben az antiszemita demagóg Karl Luegert választották Bécs polgármesterévé.
Az antiszemitizmust társadalmi kérdésnek tekintette
Herzl az antiszemitizmust sokáig társadalmi kérdésnek tekintette, amelyet a zsidók asszimilációja megoldhat. Idővel aztán meggyőződésévé vált, hogy ezt csak elkerülni lehet, méghozzá úgy, ha a zsidók saját államukba vándorolnak ki. (A zsidók imáikban évszázadokon át könyörögtek a visszatérésért Jeruzsálembe, az Oroszországból kivándorolt zsidóság az 1800-as évek végén már alapított mezőgazdasági telepeket Palesztinában.)
1896-ban írta meg Der Judenstaat (A zsidó állam) című röpiratát, ebben így fogalmazott: "A zsidókérdés nem társadalmi vagy vallási, hanem világpolitikai kérdés, amelyet a civilizált nemzetek világtanácsának kellene megoldania, és csak ez a szervezet oldhatja meg".
Herzl és a Zsidó Világkongresszus
A politikai küzdőtérre is kilépett, politikusokat, pénzembereket mozgósított a zsidó állam létrehozása, a cionista gondolat támogatására. A török szultán nem fogadta, de Szófiában zsidók százai ünnepelték, Londonban profetikus megjelenésével és fellépésével nyűgözte le hallgatóit. Herzl Bécsben megindította a cionizmus hetilapját, majd 1897 augusztusában Baselben megszervezte a Zsidó Világkongresszust.
A világ zsidóságát képviselő 200 küldött kimondta: "a cionizmus arra törekszik, hogy Izrael földjén hazát teremtsen a zsidó nép számára". A programban szerepelt zsidó földművesek és munkások telepítése Palesztinába, az egyes országok zsidóságának egyesítése szövetségekben, a zsidó önérzet fejlesztése és ápolása s előkészítő lépések a cionizmus céljait elősegítő kormányzati intézkedések érdekében. Létrehozták a cionisták szervezetét, melynek elnöke Herzl lett.
A mozgalom nevét arról a Jeruzsálem melletti dombról kapta, amelyen a hagyomány szerint Dávid királyt eltemették, a név átvitt értelemben az egész egykori hazát jelentette.
Anglia Ugandába költöztette volna a zsidó államot
Herzl évente újabb cionista kongresszusokat szervezett, tárgyalt a szultánnal (aki megtagadta Palesztina átengedését a zsidóknak), a pápával és a német császárral. Nagy-Britanniától egy Sínai-félszigeten alapítandó zsidó telephez kért támogatást, a britek azonban Ugandát javasolták e célra. A terv az 1903-as kongresszuson heves ellenállásba ütközött, a küldöttek többsége ragaszkodott a Szentföldön létrehozandó zsidó hazához.
Herzl 1904. július 3-án, 44 éves korában halt meg szívbajban. Holttestét végakaratának megfelelően Izrael állam megalakulása után Jeruzsálembe vitték, és a róla elnevezett Herzl-hegyen kialakított Nemzeti Panteon díszsírhelyén temették el. A zsidó államban 2004 óta a zsidó naptár szerinti születésnapja Herzl-nap, a budapesti zsinagóga falán emléktábla hirdeti, hogy itt állt egykoron a cionizmus atyjának szülőháza.