Kolozsvárott született, családja a második világháború végén költözött Budapestre. Eredetileg írónak, festőnek készült, de apja tanácsára ösztöndíjasként az Építőipari és Közlekedési Műszaki Egyetemre iratkozott be, ahol a Budapesti Műszaki Egyetem átszervezése után az építészeket képezték. Diplomáját 1958-ban szerezte meg, s diplomaterve alapján felvették a Magyar Építőművészek Szövetségének Mesteriskolájába. 1960-ban végzett, ezután a Lakótervhez került, ahol csaknem harminchat évig dolgozott tervezőként, műteremvezetőként, majd igazgatóhelyettes-főépítészként.

Egyik első munkája egy dunaújvárosi garzonház volt, amelyhez klubépület és élelmiszer-áruház is csatlakozott, e tervéért harmincévesen, 1965-ben megkapta az egyik legrangosabb építészeti elismerést, az Ybl-díjat, és a kitüntetést 1972-ben ismét átvehette. 1970-ben az Állami díjat, 1996-ban a Kossuth-díjat vehette át. 1982-ben Pro Urbe Budapest díjat, 1997-ben Köztársasági Elnöki Aranyérmet, 1998-ban Steindl Imre-díjat, 2007-ben Prima Primissima díjat kapott, 2009 óta Budapest díszpolgára. A Magyar Érdemrend középkeresztjét 2013-ban vehette át, 2014-ben a Nemzet Művésze címet ítélték oda neki.

Finta József nevét Budapesten megvalósult munkái tették Magyarországon és külföldön is ismertté. Õ tervezte a Duna-parti új szállodasor első épületét, az 1969-ben átadott Duna Intercontinental (ma Hotel Marriott) szállodát, az első világszínvonalú hotelt a szocialista Magyarországon. Első nagy csalódása is ehhez kötődik: ő maga ívesen a Duna felé forduló épületet tervezett, de a beruházó ezt azonnal elvetette. Az építész elkészítette a Lánchíd és az Erzsébet híd közé eső teljes partszakasz újjáépítésének tervét is, de ez nem valósult meg. Sorra kapta a megbízásokat, ő készíthette el a Volga, a Forum (ma Intercontinental), a Penta, a Taverna, a Kempinski és a Novotel szállodák, a Budapest Kongresszusi Központ és a Nemzetközi Kereskedelmi Központ terveit. Több szálloda épült tervei alapján külföldön is, így Pozsonyban, Bécsben és Brnóban.

1995-ben önálló irodát nyitott Finta és Társai Építész Stúdió néven, ezután tervezte Budapesten a Szabadság téri Bank Centert, a Teve utcai rendőrpalotát, a lágymányosi egyetemi városban a Budapesti Műszaki Egyetem, illetve az Eötvös Loránd Tudományegyetem (BME-ELTE) informatikai épületét és az 1999 végén átadott WestEnd City Centert. A stúdió legutóbbi munkái: az esztergomi Aquasziget, a Hotel Aqua, az Alle Újbudai Városközpont, az Eiffel Tér Irodaház és Kulturális Park a Nyugati pályaudvar melletti telken. Õt bízták meg a pesti Duna-parton álló, a Nemzeti Színház közelében épülő Millenniumi Városközpont tervezésével, de az ide szánt épületek nagy része papíron maradt.

Finta József az építészet elméleti kérdéseivel is foglalkozik, több szakkönyvet írt, és a műszaki tudományok doktora címet is megszerezte. A Magyar Tudományos Akadémiának 1985-től levelező, 1993-tól rendes tagja, 1992-től tagja a Magyar Művészeti Akadémiának, 1990-ben az Egyesült Államok Építészeti Intézete tiszteletbeli tagjai sorába választotta.

Munkásságát magyarországi és külföldi kiállítások mutatták be. Ars poeticája szerint az építész feladatának lényege, hogy hasznosat alkosson, és ebben mindenekelőtt a funkcionalizmusba vetett hit segítheti. Egy építészkritikus azt írta: a 19-20. század fordulója óta nem volt magyar építész, akinek nála nagyobb hatása lett volna a főváros városképére. 2013-ban ÉletRajz címmel a Duna Palotában, 2014-ben Szabad-kézzel címmel a Vigadó Galériában rendeztek kiállítást útirajzaiból és építészeti grafikáiból.