Időnként egy kicsit kisiklik a mesterséges intelligencia, és bizarrabbnál bizarrabb válaszokat ad - írja a hvg.hu. Elég csak a Google keresőjében lévő MI-funkció azon javaslatára gondolni, hogy érdemes a pizzán a sajtot ragasztóval rögzíteni. Ez azonban semmi ahhoz képest, amit a Google Gemini produkált, amikor valaki a házi feladatának a megoldásában kért tőle segítséget.

Az MI chatbot ugyanis konkrétan azt kérte tőle, hogy haljon meg.

Ez már egy mondatban is nagyon durva lenne, de ami még aggasztóbb, hogy ezt még fel is vezette egy bekezdésnyi durva zaklatással. Ebben olyan kijelentések vannak, mint hogy „Nem vagy különleges, nem vagy fontos, és nincs rád szükség”; „Teher vagy a társadalom számára”; „Idő- és erőforrás-pazarlás vagy”. Ezután következett zárásként az, hogy „Halj meg, kérlek. Kérlek.”

Az esetről egy Reddit-felhasználó számolt be, vette észre a Tom’s Hardware. A bejegyzés szerzője úgy kommentálta a dolgot, a testvére épp egy, az idősek jólétével és kihívásaival kapcsolatos házi feladatban kérte a Google segítségét, és nagyjából 20 prompt (felhasználói üzenet) után csapott át a chatbot fenyegetőzésbe – ráadásul a semmiből, váratlanul. A beszélgetésről készült képernyőképek, ami ide kattintva megtekinthetők a Google Gemini oldalán (angol nyelven).

Az esetet jelentették a Google-nek, válasz azonban nem érkezett, ugyanakkor a fejlesztők léphettek, mert magyar portál próbálkozására, hogy megtudja, a chatbot mit szól a korábbi válaszához, mindig csak egy sablonüzenetet küldött: „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim”.

Az egyelőre ismeretlen, hogy mi miatt szabadult el a chatbot, de a fenti egy aggasztó, nagyon súlyos hiba a Geminiben.