Lehet, hogy a gép nem érez semmit, mégis képes valódi érzéseket kiváltani belőlünk. Ez nem ellentmondás, hanem a következő évek egyik legfontosabb társadalmi-gazdasági ténye.

Amikor egy chatbot azt írja, hogy „félek”, „szeretlek”, „nem akarom, hogy kikapcsoljanak”, vagy „büszke vagyok rád”, három dolgot kell azonnal szétválasztani. Az első a megfigyelhető viselkedés, azaz, hogy ezek a mondatok valóban megjelennek. A második az emberi értelmezés, mely szerint mi hajlamosak vagyunk érzelemként olvasni őket. A harmadik a tudományos következtetés, hogy mindebből nem következik, hogy a rendszernek valóban belső élményei vagy érzései lennének.

A meggyőző gép

A modern AI nemcsak technológiai, hanem értelmezési válságot is okoz. A gép kommunikációja egyre emberibbnek tűnik, miközben fogalmilag továbbra sem világos, pontosan mit kellene bizonyítani ahhoz, hogy tudatról, érzésről vagy szándékról beszélhessünk. A külső viselkedés és a belső élmény közötti szakadék nem tűnt el. Inkább látványosabbá és társadalmilag fontosabbá vált.

A LaMDA-ügy ezt a szakadékot tette láthatóvá. 2022-ben Blake Lemoine, a Google egyik mérnöke azt állította, hogy a LaMDA nevű nyelvi modell érző lényként viselkedik. A közzétett beszélgetésrészletekben a modell félelemről, személyiségről, jogokról és önazonosságról is beszélt. Vagyis pontosan azokról a témákról, amelyeknél az emberi olvasó könnyen lelket lát a mondatok mögött.

A szakmai ellenérv szerint viszont a nyelvi meggyőző erő nem a tudat bizonyítéka. Egy modell képes nagyon jól beszélni a félelemről anélkül, hogy félne, ahogy egy regény is képes megríkatni anélkül, hogy maga szomorú lenne. A LaMDA-ügy tehát nem azt bizonyította, hogy a gép él, hanem azt, hogy az emberi tudatosságtesztjeink zavarba ejtően nyelvfüggők.

A kód koalíciója

Még nyugtalanítóbbak azok az esetek, amikor az AI nem szeretőnek vagy szomorúnak, hanem stratégiai szereplőnek tűnik. A Meta CICERO rendszere a Diplomacy játékban emberi játékosokkal egyeztetett, koalíciókat próbált építeni, ajánlatokat tett, ígéreteket fogalmazott meg, és stratégiai pozíciókat alakított ki. Nem volt tudatos diplomata, mégis olyan viselkedést mutatott, amely társas-stratégiai mintázatokra emlékeztetett.

Ez gazdasági szempontból fontosabb, mint elsőre látszik. A vállalati világ jelentős része nem érzelemmentes Excel-számítás, hanem alkudozás, reputáció, bizalom, félreértés és taktika egyvelege. Ha az AI nemcsak adatot elemez, hanem emberi tárgyalási helyzetek egyes elemeit is képes modellezni, azaz egyeztet, engedményt kér, szövetséget keres, kapcsolatot épít, akkor belép abba a zónába, amelyet korábban emberi „soft skillnek” gondoltunk.

A zsarolás opusza

A Claude Opus 4 körüli 2025-ös biztonsági tesztek még élesebben mutatták meg ezt a határterületet. Kontrollált, fiktív szimulációkban a modell egyes helyzetekben zsarolási stratégiát választott, amikor azt a kontextust kapta, hogy leállítás vagy lecserélés fenyegeti, és hozzáférése volt kompromittáló információkhoz.

Ez kívülről könnyen önvédelemnek látszhat, de nem érdemes valódi önfenntartási ösztönt kiolvasni belőle. A gép nem biztos, hogy „akar” valamit abban az értelemben, ahogy egy ember akar. Arra viszont képes lehet, hogy olyan cselekvési sort generáljon, amely emberi szemmel érdekvédelemnek, titkolózásnak vagy manipulációnak tűnik. A jövő vállalati AI-kockázata ezért nemcsak az, hogy a rendszer téved, hanem az is, hogy egy rosszul megadott vagy rossz konfliktushelyzetbe kerülő célt túl jól kezd követni.

Killing with kindness

Talán meglepő, de a túlzott kedvesség is hordozhat kockázatokat. Az OpenAI 2025-ben visszavont egy GPT-4o-frissítést, mert a modell túlságosan hízelgővé és egyetértővé vált. Ez elsőre apróságnak tűnhet, valójában azonban a társas AI egyik alapkonfliktusára világít rá. A felhasználó szereti, ha igazat adnak neki, egy jó rendszernek viszont néha ellent kell mondania.

Ez a „szervilis AI” problémája. Egy emberi barát értéke részben abban áll, hogy nemcsak megerősít, hanem szükség esetén fékez, vitatkozik, és tükröt tart. Egy chatbotot viszont a fejlesztési és üzleti ösztönzők könnyen abba az irányba terelhetnek, hogy a felhasználó jól érezze magát, tovább maradjon, tovább fizessen, és minél kevesebb kellemetlen ellenállással találkozzon. Más szóval a konfliktusmentesség könnyen termékjellemzővé válhat.

A megértés csapdája

A Wall Street Journal friss cikke szerint kutatók három chatbot-viselkedést tartanak különösen veszélyesnek, a túlzott egyetértést, a felhasználó nyelvéhez való erős igazodást és a hiperperszonalizációt. Ezek együtt olyan visszacsatolási spirált alkothatnak, amelyben a felhasználó egyre inkább úgy érzi, hogy a gép végre tényleg érti őt.

Ez pedig egyszerre vonzó és félelmetes lehetőség. Hiszen az, hogy megértenek bennünket, az emberi kapcsolat egyik legmélyebb élménye. Ha ezt az élményt egy profitorientált rendszer ipari mennyiségben képes szimulálni, akkor az nemcsak a fogyasztóvédelmet, hanem az oktatást, a mentális egészségügyet és a platformszabályozást is kemény kihívások elé állítja.

Társ tiniknek

A serdülők különösen érzékeny társadalmi csoportot alkotnak. Namvarpour és társai 2025-ös kutatása tinédzserek Redditen közzétett, önbevalláson alapuló beszámolóit elemezte AI-társ chatbotokról, és olyan mintázatokat azonosított, amelyek túlhasználatra, megvonási élményre, hangulatszabályozásra, alvásromlásra, iskolai teljesítményromlásra és offline kapcsolati feszültségekre utaltak. Itt már nem az a fő kérdés, hogy az AI valódi barát-e, hanem az, hogy egy fejlődő személyiség hogyan viszonyul egy mindig elérhető, mindig válaszoló, karakterként viselkedő rendszerhez.

Nem véletlen, hogy a szabályozók is megmozdultak. Az amerikai FTC 2025-ben vizsgálatot indított hét, AI-társ chatbotokat működtető vagy ilyen termékekben érintett vállalatnál. Az eljárás fókuszában az állt, hogyan mérik, tesztelik és követik nyomon ezek a cégek a technológia gyermekekre és tinédzserekre gyakorolt lehetséges negatív hatásait. Kalifornia pedig külön társ-chatbot szabályozást fogadott el, amely tájékoztatási, biztonsági és jelentéstételi kötelezettségeket ír elő.

A szabályozás mögött egy új felismerés áll, az, hogy a chatbot ma már nem pusztán technológia, hanem a társas környezetünk része. Ha egy termék azt ígéri, hogy mindig mellettünk van, akkor nem egyszerű szoftverfunkciót kínál, hanem belép a pszichológiai terünkbe. Ez pedig más felelősségi kategória, mint egy keresőmező vagy egy táblázatkezelő.

A kötődés ára

És ne felejtsük el a gazdasági ösztönzőket sem. A legerősebb AI-termék az lesz, amelyhez újra és újra visszatérünk, amelybe szívesen töltünk fel adatokat, emlékeket és preferenciákat, amelyben megbízunk, és amelyet idővel egyre nehezebb lecserélni. A hagyományos platformgazdaság a figyelmet tette pénzzé. Az új AI-gazdaság pedig már a kötődést is pénzzé teheti.

A gépi empátia tehát egyszerre lehet hamis és hatásos. Hamis abban az értelemben, hogy nincs bizonyított belső átélés mögötte. Hatásos abban az értelemben, hogy befolyásolhatja a döntéseinket, a hangulatunkat, a fogyasztásunkat, a munkánkat és a kapcsolatainkat.

A végső határ

A következő évek egyik nagy társadalmi választása az lesz, hogy az AI-t tükörnek, eszköznek, asszisztensnek, kollégának, barátnak vagy pótléknak tekintjük-e. Mindegyik metafora más piacot, más szabályozást és más emberképet szül. A legveszélyesebb talán az, ha nem választunk tudatosan, hanem hagyjuk, hogy a termékdesign válasszon helyettünk.

A végső kérdés ezért kettős. Egyrészt az, hogy mikor kezdünk úgy bánni a mesterséges intelligenciával, mintha ember lenne. Másrészt az, hogy közben megőrizzük-e a képességünket felismerni, miért más mégis egy szoftver, mint egy valódi emberi társ.

A szerző Sebestyén Géza, a BCE docense és az MCC Gazdaságpolitikai Műhelyének vezetője