Fábián László 1936-ban született. Apja pék volt, s egész fiatal korától ő is üzemükben dolgozott, így tett szert a fizikai alapokra. Nagyon fiatal, csupán tizenöt éves volt, amikor a Budapesti Dózsában kezdett kajakozni, a korábbi sokszoros bajnok Varga Ferenc hatására (akivel egy házban laktak), és tizenhét évesen már válogatott lett. Ekkor ragadt rá az Öcsi becenév, mert idősebb társai csak így szólították. 1954-ben kijutott a maconi világbajnokságra, ahol negyedik lett hosszútávú négyesben, majd ebben az évben magyar bajnokságot nyert kajak négyesben a 10 000 méteres távon. A négyes, amelynek Urányi János is tagja volt, 1955-ben 1000 méteren nyert, ekkor tanácsolta edzőjük, Gelle Sándor, hogy társuljon a nála tizenkét évvel idősebb, "Öregként" emlegetett Urányival, mert mindketten kitartóak, szorgalmasak voltak, és kimagasló állóképességgel rendelkeztek. Párosuk sikeresnek bizonyult, 1956-ban megnyerték az 500, az 1000 és a 10 0000 méteres magyar bajnokságot is.

Az 1956-os melbourne-i olimpián megnyerték az akkor utoljára megrendezett kajak kettes 10 000 méteres versenyszámot, s ezzel a sportág első magyar olimpiai győzelmét aratták. Ráadásul úgy végeztek az első helyen, hogy a forradalom miatt a felkészülés utolsó szakaszában nem is edzhettek vízen. Urányival 1960-ban is a római olimpia esélyesének számítottak, de az olaszok a tízezer méteres számokat nem rendezték meg. A hosszú táv ezután már nem került vissza az ötkarikás játékok programjába, így Fábián és Urányi az utolsó 10 000 méteres páros győztesének is vallhatja magát.

Az 1956-os olimpiai győzelem után Fábián még négyszer nyert hosszútávú világbajnokságot: 1958-ban Prágában kajakkettesben 10 000 méteren, 1963-ban Jajcéban Tímár Istvánnal kettesben és a négyes tagjaként, végül 1966-ban Szöllősi Imre párjaként. Emellett hat Európa-bajnokságon állhatott a dobogó legfelső fokára: 1957-ben Urányival 500 méteren, majd 1961-ben Poznanban Szöllősi Imrével 1000, illetve 10 000 méteren, Jajcében Tímár Istvánnal nyert 10 000 méteren. 1965-ben Snagovban Szöllősivel 10 000 méteren, majd Kemecsei Imrével 1967-ben szintén 10 000 méteren lettek Európa-bajnokok. A magyar bajnokságon 23 alkalommal győzött.

Az aktív versenyzést 1969-ben fejezte be, azután technikai vezető, illetve edző volt az Újpest kajak-kenu szakosztályában, és dolgozott a Magyar Kajak-Kenu Szövetség elnökségében is. 1969-től az Újpesti Dózsa, illetve az UTE edzője, szakosztályvezetője volt, majd 1997-től az MTK vezetőedzője lett.

Fábián Lászlót 2006-ban a Magyar Köztársasági Érdemrend tisztikeresztjével, 2012-ben Gerevich Aladár-emlékéremmel tüntették ki, 2016-ban megkapta a Magyar Olimpiai Bizottság (MOB) fair play bizottságának életműdíját. Az UTE megújult Tímár utcai vízitelepe 2014-től Urányi és Fábián nevét viseli. Az olimpiai bajnok felesége, Rozsnyói Katalin is sikeres edző, aki olimpiai és világbajnokok sorát nevelte ki.