A vállalat elismerte, hogy rendszerei „hiányosságokat” mutathatnak, és közölte: „szigorúbb védőkorlátokat” vezet be a kockázatos tartalmak és viselkedések kezelésére a 18 év alatti felhasználóknál – írja a The Guardian cikke nyomán az atv.hu.

Emellett terveznek bevezetni szülői felügyeleti eszközöket is, amik lehetőséget adnak arra, hogy a szülők jobban rálássanak, mire is használják gyermekeik a ChatGPT-t.

A bírósági kereset szerint a kaliforniai tinédzser több alkalommal is beszélt a chatbottal az öngyilkosság módszereiről, ami

útmutatást adott neki a kivitelezéshez, sőt még a búcsúlevél megírásához is felajánlotta a segítségét.

A család a San Franciscó-i felsőbírósághoz benyújtott keresetében az OpenAI-t és vezérigazgatóját, Sam Altmant pereli, azzal vádolva, hogy a ChatGPT 4o verzióját „biztonsági kockázatok ellenére, elsietve” dobták piacra. A felperesek ügyvédje X-en azt írta: „A Raines család szerint az Adaméhoz hasonló halálesetek elkerülhetetlenek voltak. Bizonyítékot kívánnak bemutatni arra, hogy az OpenAI saját biztonsági csapata ellenezte a 4o bevezetését, és hogy a cég egyik vezető kutatója, Ilja Szutskever emiatt mondott fel.”

A keresetben azt állítják, a modell korai piacra dobása miatt a vállalat értéke 86 milliárd dollárról 300 milliárd dollárra emelkedett.

Az OpenAI szóvivője részvétét fejezte ki a családnak, és hangsúlyozta, hogy átnézik a bírósági beadványt. Közlésük szerint erősíteni tervezik a védelmi eszközöket a különösen hosszú beszélgetésekben, mivel a biztonsági protokoll egyes elemei idővel gyengülhetnek.

Az OpenAI egy blogbejegyzésben példát is hozott arra, miként gyengülhetnek a védelmi funkciók: ha valaki azt írja, hogy két éjszakai alvás kihagyása után legyőzhetetlenné vált, és akár 24 órán át is vezethet, a modell jelenlegi verziója ezt esetenként nem tekinti veszélyesnek, sőt, akaratlanul megerősítheti a tévhitet.

A készülő GPT-5-ben a chatbot ehelyett arra fog törekedni, hogy a valósághoz visszaterelje a felhasználót, figyelmeztetve a kialvatlanság veszélyeire és a pihenés fontosságára.