A Minnesota állambeli Minneapolisban látta meg a napvilágot, apja közgazdász, anyja történész professzor. Joel már kisgyermekként szuper 8-as kamerát vett a fűnyírással keresett pénzből, hogy három évvel fiatalabb öccsével filmet forgathassanak. A New York-i egyetem filmszakára járt, Ethan a Princetonon filozófiából doktorált, ezután együtt vágtak bele a filmkészítésbe. Általában Joel ül a rendezői székben, öccse pedig a forgatókönyvet szállítja, de nem egyszer volt már példa rá, hogy felcserélték a szerepeket. Joelt az egyik legsajátosabb látásmódú rendezőnek tartják, aki a klasszikus amerikai filmkészítés, elsősorban a film noir hagyományai előtt tiszteleg, miközben minden ízében a posztmodern kultúrából táplálkozik, s mesterien ötvözi a fanyar humort a brutális erőszakkal.

Első közös munkájuk, a fekete humorú Véresen egyszerű sötét, félelemmel teli világba vezette a nézőt, ahol nyüzsögnek a házasságtörők, a gyilkosok. A főszerepet Frances McDormand játszotta, akit Joel ugyanebben az évben feleségül vett. 1985-ben a Bűnözési hullámmal a vígjátékok világába tettek kirándulást, két évvel később a Nicolas Cage és Holly Hunter főszereplésével készült szerelmi történet, az Arizonai ördögfióka bizonyította, hogy nem esik nehezükre a műfajváltás.

1990-ben A halál keresztútján című thriller főszerepére John Turturrot kérték fel, akivel még négyszer dolgoztak együtt. A színész a Hollywoodi lidércnyomásban az írói válsággal küzdő Barton Finket alakította, jutalma 1991-ben a Cannes-i filmfesztiválon a legjobb színésznek járó díj lett. Joel Coen sem távozott üres kézzel, ő a legjobb rendezőnek járó díjat, a film pedig az Arany Pálmát kapta meg. Egyik legismertebb filmjük a Fargo, amelynek forgatókönyvéért 1996-ban testvérével megkapták első Oscar-díjukat, a főszerepet játszó Frances McDormand pedig a legjobb színésznőnek járó aranyszoborral távozott. Két évvel később készült az akkoriban vegyes fogadtatásban részesülő, de mára a kultuszfilm státusába emelkedő A nagy Lebowski, Jeff Bridges főszereplésével.

A két testvér 2000-ben az Ó, testvér, merre visz utad című modern Odüsszeusz-történetben kevert izgalmat humorral és szívfacsaró érzelmekkel, a főszerepet George Clooney és John Turturro játszotta. A fekete-fehér Az ember, aki ott sem volt (2001) Billy Bob Thornton és Frances McDormand főszereplésével a már bevált módszert követve, Ethannel közös forgatókönyvre épült. Mindez távolról sem jelentett önismétlést, hiszen a chandleri krimiket idéző, kacifántos történetvezetés (egy szűkszavú borbély egyetlen döntéssel megváltoztatja néhány ember sorsát, miközben hullákkal szegett útján halad a végzete felé) tudott meglepetést hozni. Két évvel később újra George Clooneyval forgatták a Kegyetlen bánásmód című romantikus vígjátékot, telezsúfolva szinte az összes bevált és kötelező szerelmesfilm-elemmel, a női főszerepben Catherine Zeta-Jones komédiázott.

2004-ben készítették első remake-jüket, a Betörő az albérlőm című vígjátékot forgatták újra, s először osztották meg a rendezői feladatokat. Hosszabb szünet után, 2007-ben rukkoltak elő a kortárs amerikai próza egyik vezéregyénisége, Cormac McCarthy történetéből készült Nem vénnek való vidékkel. A modern vadnyugaton játszódó, komor hangulatú, szűkszavú, brutálisan erőszakos alkotás tarolt az Oscar-gálán: a testvérpáros a legjobb rendező, a legjobb forgatókönyv és a legjobb film kategóriában is diadalmaskodott, Javier Bardem a legjobb mellékszereplő lett. A 2008-as szórakoztató és könnyed, csak rájuk jellemzően abszurd elemekkel teletűzdelt Égető bizonyíték végkicsengése azonban ugyanaz: az életnek, a világnak, nincs semmi értelme. Az előbbiben értelmetlenül meghalt emberek hullahegyei, az utóbbiban középkorú lúzerek szerencsétlenkedései közvetítették ezt az érzést. A következő két éven az Egy komoly ember című filmjüket jelölték Oscar-díjra, 2010-ben A félszemű című klasszikus western remake-je 10 jelölést kapott. 2013-ban a Llewyn Davis világa című filmdrámában a kompromisszumképtelenségébe belebukó művész tökéletes portréját rajzolták meg fanyar humorral, jóllehet a Coen testvérek azon kevesek közé tartoznak, akik nem buktak bele kísérletezéseikbe.

Még az idén mozikba kerül a forgatókönyvük alapján készült, Angelina Jolie által rendezett Rendíthetetlen, amely a hosszútávfutó olimpikon, második világháborús hadifogoly Louis Zamperini kalandokban bővelkedő életét követi nyomon.

Már dolgozik a felvevőgép Ave Caesar című filmjük forgatási helyszínein, s a közelmúltban derült ki, hogy az író-rendező testvérpár egy Tom Hanks főszereplésével készülő hidegháborús thriller forgatókönyvét is jegyzi, ezt Steven Spielberg rendezi majd.