Az idei év legkülönösebb médiabotránya a True Crime Case Files nevű YouTube-csatorna tündöklése és bukása volt. A platform az után távolította el végleg a csatornát, hogy

kiderült: a több mint 150 videóból álló „valódi bűntetteket” ismertető sorozat teljes egészében hamis volt

– az epizódok mesterséges intelligenciával generált történeteket, képeket és hangokat tartalmaztak.

Mindez sokkolta a True Crime híveit és aláásta a generatív mesterséges intelligenciával szembeni bizalmat, bár inkább azokat illetheti bírálat, akik visszaélnek vele.

A törlés oka: egy sokkoló, de fiktív gyilkosság

A döntő lépést egy videó váltotta ki, amely a Husband’s Secret Gay Love Affair with Step Son Ends in Grisly Murder (A férj titkos meleg viszonya a fogadott fiával, amely vérfagyasztó gyilkossággal végződött) címet viselte, és egy állítólagos gyilkosságról számolt be a Colorado állambeli Littleton városából.

Az epizód 26 percben részletezte a hátborzongató bűncselekményt, képekkel illusztrálva az „áldozatokat” és az „elkövetőket”. A gond csak az volt: semmilyen gyilkosság nem történt.

The algorithm has started recommending me AI generated, fake true crime and it's making me wonder why I'm trying so hard pic.twitter.com/LpkCRFAF1E

— Willie Muse (@Williesillie2) August 15, 2024

Az esetre Elizabeth Hernandez, a Denver Post újságírója figyelt fel, miután olvasók tömege kereste meg a szerkesztőséget, azt kérdezve, miért nem számoltak be a brutális bűntényről. „Néhányan konkrétan azt kérdezték: miért nem írt a Denver Post erről? A videó úgy volt elkészítve, mintha országos hír lett volna, pedig semmi nyoma nem volt a valóságban” – mondta Hernandez a 404 Media-nak.

A videó több mint kétmillió megtekintést gyűjtött be úgy, hogy pénzt termelt a készítőjének. A csatorna tulajdonosa, akinek személyazonosságát nem hozták nyilvánosságra (állítólag halálos fenyegetések miatt), nem tagadta, hogy minden egyes történet teljes mértékben kitaláció volt.

Az AI kreativitását kihasználó ötletgazda azzal védekezett, hogy a „true crime” kifejezést csak műfaji címkeként használta és paródiaként kezelte a csatornát. „Szerettem volna, ha az emberek elgondolkoznak: miért olyan fontos számukra, hogy valós eseményekről halljanak? Miért számít nekik ennyire, hogy valódi embereket öltek meg?” – magyarázkodott.

Korábban még szerepelt is a csatornán egy „AI-paródia” megjelölés, de miután az első videók így nem hozták a várt nézettséget, eltávolította a címkét – aminek nyomán látványosan megugrott a látogatottság.

YouTube: megsértette a gyermekvédelemmel kapcsolatos irányelveinket

A YouTube végül a gyermekvédelmi irányelvek megsértésére hivatkozva zárta le a csatornát. Jack Malon, a platform szóvivője szerint a döntés nem egyetlen videó miatt született: „A csatornát többszörös irányelvsértés miatt távolítottuk el – ideértve a kiskorúak szexualizálásának tilalmát is."

Több epizód is kitalált, de gyermekeket érintő bűncselekményekkel foglalkozott. Egy videóban például szexrabszolgaként adtak el egy kisgyereket egy helyi seriffnek; más epizódokban transznemű tanárok erőszakolták meg diákjaikat. Ezek voltak azok a pontok, ahol a platform – saját irányelveire hivatkozva – már nem tudott tétlen maradni.

Netflix has used AI-generated images in a new true crime doc ‘WHAT JENNIFER DID’ to present Jennifer Pan as happy & confident before she was convicted of murder.

Use of AI tools is not disclosed in the credits.

(Source: https://t.co/MYN1n1WTF0) pic.twitter.com/DdV5zea1oh

— DiscussingFilm (@DiscussingFilm) April 18, 2024

Az AI-hazugsággyár csak a jéghegy csúcsa?

A 404 Media szerint a True Crime Case Files csak egy a több, álvalóságot közvetítő csatorna között: a „gépi szenny” (az AI slop) korszakában sokan próbálnak automatizált tartalomgeneráló eszközökkel, például ChatGPT-vel, gyors pénzhez jutni.

It's so over — this "bodycam" footage was completely AI generated by OpenAI Sora pic.twitter.com/i5sswhRDZQ

— internet hall of fame (@InternetH0F) March 3, 2025

Az eset emlékeztet a 2023-as George Carlin-botrányra is, ahol egy másik YouTube-csatorna egy mesterséges intelligencia által generált „új stand-up show”-t publikált az akkor már halott humorista nevében – az ügyből per lett, a tartalmat töröltették.

Bár a Google és a YouTube is gőzerővel fejleszt generatív eszközöket és ösztönzi azok használatát, a jelek szerint egyre komolyabban veszi az úgynevezett deepfake-ből és a dezinformációból fakadó veszélyeket.

Új irányelveik szerint már kérvényezhető olyan videók eltávolítása is, amelyek – AI által megtámogatva – valósághű módon jelenítik meg valakinek arcát vagy a hangját.

A True Crime Case Files ügye rávilágított arra, hogy még nem határozták meg pontosan, hol húzódnak a mesterséges intelligenciával előállított akár művészinek számító, fiktív és az ipari mértékű hamis tartalmak közötti határok.

Egy közúti gyilkosság áldozatának családja például mesterséges intelligenciával készített videót, amelyben a néhai veterán a gyilkosához szól (és megbocsájt neki) – azzal a céllal, hogy bemutassák a bíróságon.

The family of a man that died in 2021 created an AI video of him to address his killer in court
pic.twitter.com/qWMBcmVFQp

— Dexerto (@Dexerto) May 9, 2025

Ugyanakkor ami ma még átmegy, az holnap már tilos lehet – és de a szabályok formálása közben a nézők és tartalomkészítők egy része is a kísérleti nyúl szerepét játssza.