A tanulmányt részletesen szemlézték egy közösségi oldalon, összefoglalva „az AI-pszichiáterekkel” kiépülő szorosabb kapcsolat öt lehetséges csapdáját.
Az első veszély, hogy a chatbot a szakember helyettesítőjévé válhat. Ha valaki úgy érzi, elegendő segítséget kap a mesterséges intelligenciától, könnyen elhalaszthatja a pszichológus vagy pszichiáter felkeresését. Ez különösen súlyosabb mentális betegségek esetén késleltetheti a megfelelő kezelést.
A második kockázat a folyamatos megnyugtatáskeresés. Szorongásos zavarokban vagy kényszerbetegségben gyakori, hogy a beteg újra és újra megerősítést kér félelmei alaptalanságáról. Mivel a chatbotok alapvetően segítőkész és együttműködő válaszokat adnak, könnyen előfordulhat, hogy minden alkalommal megnyugtatják a felhasználót. Ez rövid távon csökkentheti a szorongást, hosszabb távon azonban éppen fenntarthatja azt.
Harmadik veszélyként az elemzés a társas elszigetelődés fokozódását emeli ki. Egy chatbot mindig türelmes, nem sértődik meg, nem utasít el, és nem bírál. Egy magányos vagy szociális szorongással élő ember számára ezért könnyen kellemesebb beszélgetőpartnerré válhat, mint egy valódi ember. Ha azonban a mesterséges intelligencia fokozatosan átveszi a valódi emberi kapcsolatok helyét, az tovább mélyítheti az elszigetelődést.
A negyedik probléma az úgynevezett AI-szükofancia (AI sycophancy), vagyis a chatbot túlzott egyetértési hajlama. Mivel ezeket a rendszereket úgy tervezték, hogy udvariasak és együttműködők legyenek, előfordulhat, hogy bizonyos helyzetekben nem kérdőjelezik meg kellő határozottsággal a felhasználó téves vagy kóros meggyőződéseit. A z elemzés ezt szemléletesen „AI-pszichózisnak” nevezi, hangsúlyozva, hogy ez nem hivatalos pszichiátriai diagnózis, hanem egy lehetséges kockázat leírására használt kifejezés.
Végül az elemzés arra is figyelmeztet, hogy aki egyre több hétköznapi döntésben kizárólag a chatbot tanácsaira támaszkodik, idővel elveszítheti saját ítélőképességébe vetett bizalmát. Ez fokozatos pszichológiai függőséghez vezethet, amelyben az ember egyre kevésbé mer önálló döntéseket hozni.
Mennyire bizonyítottak ezek a veszélyek? Az elemzés maga is hangsúlyozza, hogy a jelenlegi bizonyítékok még korlátozottak. Az elemzés nagyrészt korábbi kutatásokra, megfigyeléses vizsgálatokra, esettanulmányokra és egyedi beszámolókra épül. Ezek fontos figyelmeztető jelek, de nem bizonyítják, hogy a chatbotok önmagukban mentális betegségeket okoznának vagy súlyosbítanának.
Annak megértéséhez, hogy a mesterséges intelligencia hosszú távon milyen hatással van a lelki egészségre, jól megtervezett klinikai vizsgálatokra, etikai elemzésekre és a sérülékeny felhasználók gondos követésére lesz szükség.
A tanulmány legfontosabb üzenete nem az, hogy a mesterséges intelligenciát kerülni kellene.
Éppen ellenkezőleg: a chatbot-ok sok ember számára hasznos információforrást, érzelmi támaszt vagy a segítségkérés első lépését jelenthetik. A lényeg az, hogy a támogatás nem azonos a kezeléssel.
Egy chatbot segíthet eligazodni egy problémában, információt adhat vagy bátoríthat arra, hogy valaki szakemberhez forduljon, de nem helyettesíti a pszichológust vagy a pszichiátert, különösen súlyosabb vagy tartós mentális zavarok esetén.
A szerző szerint a következő évek egyik legfontosabb feladata annak meghatározása lesz, hogyan lehet úgy fejleszteni a mesterséges intelligenciát, hogy együttérző és hasznos maradjon, miközben a sérülékeny felhasználóknál a lehető legkisebbre csökkenjen annak kockázata, hogy akaratlanul is fenntartsa vagy felerősítse a már meglévő pszichés problémákat.