„Figyelj csak ide, itt van nálunk a lányod. Nem hívsz senkit, nem hívod a zsarukat... Elkezdtem sikítani” – mesélte Jennifer DeStefano arizonai anya az Inside Story című műsornak arról a pillanatról, amikor meghallotta, hogy állítólagos emberrablóknál van a lánya. Hallotta a 15 éves gyereke hangját is, aki sírt és azt zokogta: „Anya, ezek a rossz emberek elkaptak, segíts, segíts!”
Csakhogy az egész egy nagy átvágás volt: csalók mesterséges intelligencia segítségével készítették el a segélykérő felvételt és játszották be DeStefanonak. Az anyának az volt a szerencséje, hogy másik lánya táncpróbáján érte a hívás, és a többi szülő tanúja volt az esetnek. Az egyik elmondta neki, hogy
ismertek a hasonló, mesterséges intelligenciát használó csalások.
DeStefano tárgyalásba kezdett az "emberrablóval", aki először egymillió dollárt akart, de később már 50 ezerre vitte le a követelését, és elmondta, hová vigye a készpénzt. Átutalást nem fogadott volna el, mert "azt le lehet követni" – mondta, és azzal is fenyegetőzött, hogy megerőszakolja és megöli a lányt.
Közben a szülők hívták a rendőrséget, az anya pedig a sítúrán lévő fiát, aki átadta a telefont az állítólag elrabolt lányának.
A rendőrség viszont először azzal utasította el a feljelentést, hogy csak "vicceltek vele".
De hogyan sikerült majdnem átverni a rettegő anyát? Az esetről tudósító Inside Story műsornak Hany Farid, a Berkeley Egyetem digitális hamisítványokat kiszűrő professzora mesélt erről: "A YouTube-on megkerestem az ön egy anyagát. Feltöltöttem a hangját egy oldalra, amiért havi öt dollárt fizetek. Harminc másodperc alatt klónozta a hangját. Beírtam, hogy ön mit mondjon, és megkaptam a kész audiót."
Az Inside Story bejátszotta a riporter, Allison Hall eredeti hangját, majd a Farid professzor által készített audiót is. A hasonlóság kísérteties volt, bár utóbbin elég monoton hangon mondta Hall, hogy elrabolták.
Közben az anya az amerikai Kongresszus előtt tett vallomást, és kérte a törvényhozókat: szabályozzák a mesterséges intelligenciát, illetve a rosszindulatú felhasználók büntetését.
"Amikor felhív a gyereked és segítséget kér, akkor megkérdezed: tényleg te vagy és leteszed? Ez az új normalitás?" – tette fel a kérdést a képviselőknek.