Hiába tudta Steve Aarons Új-Mexikói ügyvéd, hogy a chatbotok hajlamosak a tények helyett kitalálni dolgokat, és azokat magabiztosan, teljes meggyőződéssel tálalni, mégis az AI által készített összefoglalóra alapozta ügyfele fellebbezését egy gyilkossági ügyben – írja a Reuters híradása nyomán a hvg.hu.

A fellebbezésben hamis, az AI által kitalált tanúk és rendőrségi vallomások szerepeltek, és erre a bíróság is felfigyelt. A törvényszét ezért 5 ezer dolláros, azaz körülbelül 1,6 millió forintos bírsággal sújtotta a jogászt, továbbá elmarasztalta azért, mert nem ellenőrizte a chatbot által generált beadványban szereplő állításokat és jogi hivatkozásokat.

A beadvány tele volt hibákkal: fiktív tanúvallomásokat tartalmazott, sőt, a lövöldöző öltözetéről és megjelenéséről is valótlanságokat állított. C. Shannon Bacon bíró egy augusztusi meghallgatáson kérdőre vonta az ügyvédet, hogyan nem volt tisztában az AI kockázataival. „Ügyvéd úr, ön nézi a híreket? Hallgatja a rádiót? Olvasott bármit arról, hogy mi folyik a világban?” – vonta kérdőre az ügyvédet a bíró, megjegyezve, hogy lassan mindennaposak az olyan hírek, amelyek arról szólnak, hogy az ügyvédek az AI-generált hallucinációkra támaszkodnak.

Az ügyvéd elismerte, hogy ChatGPT-t használt a beadvány elkészítéséhez, mert azt hitte, a gép egy „kikezdhetetlen összefoglalót” fog generálni a tárgyalásról. Állítása szerint megbánta tettét, és bízik benne, hogy a fegyelmi bizottság figyelembe veszi majd, hogy ez mindössze egy „jóhiszemű tévedés” volt.