A közelmúltban dél-koreai bankokat, japán vállalatokat ért kibertámadás, Franciaországban pedig élelmiszerüzletek százainak a hűtőjét állították át fűtésre, több millió eurós kárt okozva. Londoni szakemberek arról vizionálnak, hogy mi lesz akkor, hogyha az okos eszközeink öntudatra ébrednek, a hűtőszekrény összekapcsolja magát a kerti fűnyíróval, közösen szabadidejükben Proudhont olvasnak, rájönnek, hogy a tulajdon lopás, túszul ejtik a macskát a kertben, követeléseket fogalmaznak meg, és hogyha azokat nem teljesítik, akkor még a fűtést is lekapcsolják. Utóbbi kép komikusnak hathat, de inkább tragikomikus, és nem is vagyunk ettől elméletileg olyan nagyon messze Keleti Arthur kibertitok-jövőkutató szerint.
Mint mondta éppen ez az egyik aggodalom a mesterséges intelligenciával kapcsolatban, ugyanis a példában szereplő forgatókönyv alapját, azt, hogy egyáltalán miért lehet ilyeneket megcsinálni, azok az informatikai sérülékenységek okozzák, amelyek emberi hibák és hanyagságok révén jelennek meg a rendszerekben. Például az, hogy a franciaországi hűtőrendszerek hőmérsékletét át lehetett állítani távolról, az valószínűleg egy beállításbeli hiba és hanyagság az informatikusok részéről.
Persze van ennek hatékonysági célja, hiszen akinek ez a dolga, távolról vezérelhette ezeket az eszközöket, de meg lehetne ezt csinálni biztonságosan is – jegyezte meg a szakértő, az Informatikai Biztonság Napja (ITBN) alapítója.
„Tehát a probléma egyik fele már most létezik, nagyon sok rendszer van, és nagyon rosszul vannak beállítva. Az igazi kérdés az, hogy a mesterséges intelligencia megjelenésével, amely ismeri az összes beállítását az összes dolognak, ismeri, hogy hogy működik, tudja azt, hogy milyen kódsorokból épül fel, tudja azt, hogy milyen tipikus hibákat vétenek azok, akik ezzel foglalkoznak, mennyire válnak ezek a rendszerek kihasználhatóvá. A mesterséges intelligencia ugyanis akár ki is tudja használni ezeket vagy konkrét utasításra, vagy, ami ennél még egy fokkal félelmetesebben hangzik, esetleg magától. Amikor úgymond összebeszél A-eszköz a B-eszközzel – egy kellően intelligens neurális hálózat, ami ma egy mesterséges intelligencia, az magától is juthat olyan következtetésre, hogy neki valamit ki kellene használni, valamilyen sérülékenységet vagy valamilyen problémát. És ami ebben az egészben a legizgalmasabb, hogy ezek a rendszerek ezek
nem feltétlenül gonoszak a szónak az emberi értelmében,
tehát nem arról van szó, hogy ő direkt akar valamit azért feltörni, mert van valami célja, hanem egyszerűen egy feladatot akar teljesíteni, és azt gondolja általában, hogy a feladat teljesítéséhez ez szükséges. Tehát ez tulajdonképpen egy intelligens automatizálás” – magyarázta Keleti Arthur.
Példaként el lehet képzelni mondjuk egy rendkívül motivált embert, aki mindenáron teljesíteni akar egy feladatot. És hogyha azt a feladatot adják neki, hogy szerezze meg a francia hűtőkkel kapcsolatos összes információt, mert mondjuk arról a rádióban híreket akarnak mondani, akkor először elkezd nézelődni az interneten, aztán rájön, hogy van néhány rendőrségi adatbázis, amiben lehet, hogy több információ van, és akkor nekiáll azzal foglalkozni.
„Nem is biztos hogy feltöri, lehet hogy egyszerűen csak ezt a szürke zónás részt csinálja: sokat kérdezi, esetleg küld egy e-mailt valakinek, vagy nagyon sok e-mailt küld az összes munkatársnak, aki a rendőrségnél dolgozik, hátha valaki visszaír neki” – mondta. De itt már elkövet a mesterséges intelligencia olyan dolgokat, amelyeket ha ember csinálna, akkor kérdőre vonnánk. Ám az AI-nak nem mindig vannak ilyen morális fenntartásai. Persze ilyesmit lehet beleépíteni, törekszenek is erre, de mivel az AI bonyolult neurális háló, nem is programozzák, hanem tanítják, inkább csak igazítani lehet rajta, nem lehet mindent precízen „kimérnökösködni”.
Beszélt arról is, hogy régebben az informatikusok által vétett hibákat értették az informatikusok, legfeljebb csak nem tudták egy ideig, hogy egy hiba (sérülékenység) létezik egy rendszerben. Most azonban olyan rendszereket építenek, amelyek működése nem 100 százalékig egyértelmű nekik sem, mert ezek nem determinisztikus rendszerek. És felmerül a kérdés, hogy akkor ki ural majd kit?
Mint mondta,
az emberiség azt tanulta, hogy mi vagyunk az uralkodó faj ezen a bolygón, és mindent mi kontrollálunk, de ez a hit most kihívással áll szemben.
„Időnként megmutatja azért nekünk a természet vagy Isten, vagy attól függ, hogy ki miben hisz, hogy azért ez nem biztos, hogy így van, de azért mi csak túléltünk, itt vagyunk. Sőt, technológiát fejlesztettünk, és amit nem tudunk megoldani erővel, azt megoldjuk technológiával. De ezt a mesterséges intelligencia elkezdte kihívni ezt a tételt, megkérdőjelezi, hogy ez tényleg így van-e valójában, és ezzel nagyon nehezen tudunk mit kezdeni, mert eddig arról szó nem volt, hogy egy – ráadásul általunk készített – intelligencia nálunk bármilyen szempontból okosabb legyen, sőt, hogy esetleg önálló gondolatai legyenek valamiről, az nem lehet, ez egy eszköz. Vagyis először szerintem magunkban kell ezt a dolgot tisztázni, és itt máris beleütközünk számos normarendszerbe. Azok, akik mondjuk abban hisznek, hogy az ember, a természet, az összes biológiai lény egy isteni vagy valami felsőbb akaratból teremtődött, lelke van, olyan tudata van, ami valahonnan származik, azok valószínűleg nem fogják azt elfogadni, hogy egy bármilyen műszaki eszköz hasonló kvalitásokkal vagy képességekkel rendelkezhet. Viszont vannak olyanok, akik azt mondják, hogy dehogyisnem, ez a tudatszerűség lehet származtatott, lehet egy más típusú tudat, mint amilyen az embereké. És még sok variáció létezik. Azt hiszem, először az emberi rendszereinket kell szinkronizálni, összehangolni ahhoz, hogy erre választ kapjunk. De
közben ez a valami – én úgy mondom, hogy több mint eszköz, de más, mint ember –, ez a technológia, ez a szolgáltatás, folyamatosan fejlődik. És ez a fejlődés ráadásul nem is lineáris, hanem exponenciális, amit nagyon nehezen tudunk felfogni:
másnap odamegyünk az AI-modellünkhöz, és az hirtelen rengeteg dolgot tud a világról, amit azelőtt nem tudott, hirtelen van véleménye valamiről, amit azelőtt nem tudott. És bár bizonyos dolgokban látható korlátai vannak ezeknek a rendszereknek és nem bírnak fölfogni bizonyos dolgokat, viszont ez is folyamatosan változik. Nincsen ilyenre mintánk, ezért amikor beszélgetünk egy ilyen AI-rendszerrel, és látjuk, hogy jól ki tud számolni dolgokat, jó tanácsot tud adni az egészségügyi problémánkra, akár még a mentális problémánkra, akkor nem értjük, hogy miért nem tudja kiszámolni, hogy mennyi lesz az adó. Magyarán itt egy más típusú intelligenciával állunk szemben, amit nem értünk, és ami folyamatosan kihívás alatt tartja az eddigi normarendszereinket” – fogalmazott Keleti Arthur az InfoRádió Aréna című műsorában.
A cikk Exterde Tibor interjúja alapján készült. A teljes beszélgetés alább megtekinthető, meghallgatható.