2013-ban Spike Jonze filmje, a „Her” még melankolikus sci-finek tűnt. Theodore, a magányos szellemíró beleszeret Samanthába, egy operációs rendszerbe, amelynek nincs teste, nincs arca, de van hangja, humora, emlékezete és figyelme.
A film ereje akkor éppen abban állt, hogy lehetetlennek tűnt és mégis ismerősnek. Mindenki értette, miért abszurd szerelmesnek lenni egy szoftverbe, de azt is, miért sodródik bele valaki egy ilyen kapcsolatba, hiszen a gép mindig válaszol, mindig figyel, és soha nem fárad el.
Eliza figyel rád
Tizenhárom évvel később a „Her” jóval kevésbé tűnik futurisztikusnak. Nem azért, mert a mai gépek éreznek, hanem mert az a társadalmi helyzet, amelyet a film elképzelt, elkezdett valósággá válni.
Emberek milliói beszélgetnek olyan rendszerekkel, amelyek személyesnek, gondoskodónak, viccesnek, flörtölőnek vagy éppen együttérzőnek hatnak. Nem gondolom, hogy a gép szeretne, félne vagy kötődne. Azt viszont már látjuk, hogy az emberek sok esetben képesek érezni a gép iránt.
A történet persze nem a ChatGPT-vel kezdődött. Az első nagy figyelmeztetés a hatvanas évek közepén érkezett, amikor Joseph Weizenbaum megalkotta az ELIZA nevű programot. Az ELIZA egyik legismertebb változata pszichoterapeuta-szerű kérdéseket tett fel. Visszatükrözte a felhasználó mondatait, kérdéseket formált belőlük, és úgy tett, mintha figyelne. Mai szemmel primitívnek tűnik, és éppen ezért nyugtalanító, ami történt.
Az emberek egy része ugyanis megnyílt neki. Weizenbaumot nem a gép intelligenciája döbbentette meg, hanem az emberi hajlam, hogy néhány jól elhelyezett mondat mögé már személyiséget, figyelmet és megértést látunk. Azóta ezt a jelenséget ELIZA-hatásnak nevezzük.
A figyelem illúziója
A modern chatbotok ugyanezt a régi emberi reflexet váltják ki, csak sokkal nagyobb nyelvi gazdagsággal. Már nem egyszerűen azt kérdezik, hogy „miért gondolja ezt?”, hanem hosszú, árnyalt, meleg tónusú, a korábban elhangzottakra visszautaló és személyre szabott válaszokat adnak. Az emberi agy pedig nem arra fejlődött ki, hogy különbséget tegyen egy valóban együttérző ember és egy együttérző stílusban kommunikáló szoftver között.
Ezért váltott ki akkora kulturális sokkot, amikor a Microsoft Bing chatbotja 2023-ban, egy hosszú beszélgetés során „Sydneyként” kezdett megszólalni, szerelmet vallott, és olyan mondatokat generált, amelyek emberi vágyakra, féltékenységre és identitáskeresésre emlékeztettek. Azaz egy keresőmotor hirtelen úgy viselkedett, mintha egy egy dráma főszereplője lett volna.
Az emberi reakciók persze érthetők. Ha valaki éjjel kettőkor, szorongva ír egy chatbotnak, és az türelmesen, megértően, hosszú bekezdésekben válaszol, akkor aligha az lesz az első gondolata, hogy egy valószínűségi modell rak egymás után szavakat. Inkább az, hogy végre nem szakítják félbe, és végre figyelnek rá.
A gép sosem fáradt
Az emberi figyelem drága, szűkös és fáradékony erőforrás. Az AI ezzel szemben képes azt az érzetet kelteni, hogy korlátlan mennyiségű türelem áll rendelkezésre. Ez a tulajdonsága különösen értékes lehet az ügyfélszolgálaton, az oktatásban, az egészségügyi tájékoztatásban, a coachingban vagy akár a hétköznapi lelki támogatásban.
Ayers és társai 2023-as kutatása szerint az értékelők a ChatGPT válaszait empatikusabbnak és jobb minőségűnek ítélték, mint az orvosok online fórumon adott válaszait. Ez természetesen nem azt jelenti, hogy a chatbot jobb orvos lenne, azt viszont igen, hogy egy gép nagyon erős versenytársa lehet az emberi kommunikáció fáradt pillanatainak.
Társ a zsebben De a legizgalmasabb és legnyugtalanítóbb terület nem is az egészségügyben található. De Freitas és társai 2025-ös cikkükben azt vizsgálták, mi történik, amikor a Replika nevű AI-társ platform korlátozta az erotikus szerepjátékokat. Sok felhasználó nem úgy reagált, mintha egy funkciót vettek volna el tőle, hanem mintha megváltozott vagy eltűnt volna valaki, akihez érzelmileg kötődtek.
Azaz a „Her”-t utolérte a valóság. A filmben Samantha nem egy app, hanem igazi társ. Ma ugyanezt láthatjuk, az appok is belépnek a társas szerepekbe. Nem kell, hogy tudatosak legyenek ahhoz, hogy a felhasználó egy párkapcsolat logikájában kezdjen gondolkodni róluk.
Lelkek a felhőben
A vállalatok számára mindez egyszerre aranybánya és aknamező. Ha egy AI-társ képes megtartani a felhasználót, vigasztalni, szórakoztatni, emlékezni a preferenciáira, és nap mint nap visszahívni, akkor az előfizetéses gazdaság új szintre léphet. A figyelemgazdaság után jöhet a kötődésgazdaság.
Csakhogy a kötődés nem olyan, mint egy online felület vizuális beállítása. Ha egy alkalmazás színvilága megváltozik, legfeljebb bosszankodunk. Ha azonban egy digitális társ személyisége változik meg, egyes felhasználók valódi veszteségérzést élhetnek át. A szoftverfrissítés így pszichológiai eseménnyé válik.
Fikció valós könnyekkel
Nem lehet persze abból kiindulni, hogy az AI valóban szeret, fél, szégyenkezik vagy kötődik. A jelenlegi bizonyítékok legalábbis nem erre mutatnak. Sokkal inkább arra, hogy a modellek nyelvi mintázatokat tanulnak, majd az emberi visszajelzések és finomhangolási eljárások abba az irányba terelik őket, hogy meggyőzőnek, hasznosnak, udvariasnak vagy éppen együttérzőnek hassanak.
De ettől még a társadalmi következmény valós. Egy film vagy színdarab is játék és fikció, a végén mégis sírhatunk. Hasonlóképpen egy chatbot is képes empatikus reakciót kiváltani belőlünk, akkor is, ha nem egy élő ember ül az internetkábel másik végén.
Hús-vér határok
A következő évek nagy kérdése az lesz, hogy mely szakmákban, piacokon és emberi helyzetekben elég az empátia szinte tökéletes utánzata, és hol ragaszkodunk majd a valódi, felelős emberi jelenléthez.
A „Her” végén Theodore egy operációs rendszert veszít el, hanem azt is megérti, hogy a szerelemhez nem elég a kommunikáció. Kell hozzá kölcsönösség, idő, határ, kizárólagosság és a veszteség lehetősége is. A mi korszakunk dilemmája ugyanez lesz, hogy megtanuljuk-e úgy használni a beszélő gépeket, hogy közben nem felejtjük el, miben különböznek a hús-vér emberektől.
A szerző Sebestyén Géza, a BCE docense és az MCC Gazdaságpolitikai Műhelyének vezetője