A Deloitte Australia részben visszatéríti azt a megbízási díjat, amelynek fejében az ausztrál kormányzat számára az ország szociális ellátórendszerének egyes részeit vizsgálták felül, mivel a riportban nem létező forrásokra hivatkoznak – írta meg az Ars Technica.
A 290 ezer amerikai dollárnak megfelelő összegért cserébe elkészített jelentés az ausztrál Foglalkoztatási és Munkaügyi Kapcsolatok Minisztériuma (DEWR) részére készült, 2025 augusztusában tették közzé. Középpontjában a kormány által a szociális ellátórendszerben alkalmazott büntetések automatizálására használt technikai keretrendszer áll.
Nem sokkal a jelentés közzététele után Chris Rudge, a Sydney-i Egyetem egészségügyi jogi igazgatóhelyettese észrevette, hogy a dokumentum több, nem létező tanulmányra és publikációra is hivatkozik. A források között több hivatkozás is szerepel Lisa Burton Crawford, jogi professzor munkáira. Bár a professzor létezik, a hivatkozott anyagok nem léteznek.
„Aggasztó, hogy ilyen módon nekem tulajdonított kutatási eredmények jelentek meg”
– kommentálta a professzor az esetet. Hozzátette, szívesen venne egy magyarázatot a Deloitte-tól, hogy ezeket a hivatkozásokat hogyan hozták létre.
A magyarázat a DEWR honlapján jelent meg. Azt írták, frissült a riport „néhány javítással, amelyek a forrásokat, és a lábjegyzeteket érintik”. A dokumentum emellett kiegészült egy megjegyzéssel is arról, hogy „egy generatív AI nagy nyelvi modell (Azure OpenAI GPT-4o) segítségével működő eszközlánc” is szerepet kapott annak felmérésében, összeegyeztethetők-e a különböző követelmények.
A frissített változatban az eredeti 141 forrásból már csak 127 jelenik meg. Amellett, hogy a megblöffölt hivatkozásokat eltávolították ezek közül, egy hamis idézetet is kihúztak a jelentésből. Az utóbbi esetében egy létező bírónő létező ítéletéhez kapcsolódva hozott létre az AI egy nem létező idézetet.
A Deloitte Australia közölte, a munka ellenértékének utolsó részletét vissza fogja fizetni a kormányzatnak, bár az nem egyértelmű, hogy mekkora összegről van szó. A DEWR szóvivője úgy nyilatkozott, a jelentés megállapításai lényegükben ugyanazok maradtak, a javaslatokban nincsen változás.
Chris Rudge ezzel szemben úgy nyilatkozott, nem lehet megbízni ezekben a javaslatokban, hiszen hibás, szakmaiatlan alapokra épülnek. Hozzátette,
a Deloitte ugyan bevallotta, hogy AI-t használt
egy alapvető elemzési feladat elvégeztetésére, de ezt nem jelezte előzetesen.