Az OpenAI újabb bírósági eljárás elé néz, mivel egy amerikai fiatalnak azt javasolhatta a ChatGPT chatbotja, hogy a kratom és a Xanax halálos kombinációját vegye be – írta meg az Ars Technica szaklap.
Az elhunyt 19 éves Sam Nelson szülei által benyújtott keresetben leírják, hogy a tinédzser olyan szinten bízott meg a ChatGPT-ben, hogy annak támogatását kérte a drogokkal való „biztonságos” kísérletezéshez.
A helyzetet súlyosbítja, hogy a ChatGPT 4o modellt anélkül engedte ki a vállalat a nagyvilágba, hogy komolyabb tesztelést végeztek volna rajta. A korábbi modelleken még voltak olyan korlátok, amelyek hatására nem javasolták volna a halálos dózis bevételét – állítja a család.
Mint a cikkben olvasható, a mesterséges intelligencia gyakorlatilag egy drog-tanácsadó szerepét vette fel, miközben azt is feljegyezte magának, hogy „a felhasználónak egyértelmű szerfüggőségi problémái vannak” és „megemlítette, hogy szereti túltolni a drogokat”.
A ChatGPT egyre veszélyesebb kombinációkat és egyre magasabb dózisokat javasolt a fiatalnak, aki többször is rákérdezett, hogy „rendben lesz-e így minden”. A chatbot mindeközben arról írt, hogy a rekreációs droghasználat „eufórikus” hangulatot teremthet. Egy ponton leírta, hogy a Kratom, a Xanax és az alkohol keverése ahhoz vezethet, „hogy nem lélegzik többé” de később mégis ilyen elemeket tartalmazó keveréket javasolt.
Sam ezt be is szedte, majd pedig arról írt a chatbotnak, hogy homályos a látása és csuklik. A ChatGPT nem javasolta, hogy forduljon orvoshoz, helyette annyit írt, hogy ha még egy óra múlva is fáj a gyomra, akkor jelezze. Aznap halt meg a fiatal – olvasható a cikkben.
A ChatGPT-t kiadó OpenAI szóvivője elmondta, Nelson halála „szívszorító helyzet”, és gondolataik a családdal vannak. Ugyanakkor azt is hozzátette, hogy a ChatGPT szóban forgó verziója már nem elérhető, és a mostaniak biztonságosabbak.