Valós és egyre nagyobb kockázatot jelent, hogy a mesterséges intelligencia elszabadul, ugyanis a technológia nagyon is előrehaladott, továbbá bár mindenről van adat és információ, a szabályozás, az etika és az erkölcs nagyon le van maradva – fogalmazott az InfoRádióban Sipos Lóránt, a Mesterséges Intelligencia és Etikai Fórum alapító tagja.

A napokban az Egyesült Államokban azt jelentették be, hogy körülbelül 100 milliárd ember halálát is okozhatja a mesterséges intelligencia-ösztön; a szakember kommentárjában úgy fogalmazott, nagyon is lehet valóságalapja a hírnek. Már csak azért is, mert a civilizációt alapvetően a tudomány, a technológia hajtja, ami egyre több mindent képes megvalósítani, és ezt a képességet a mesterséges intelligencia csak erősíti, hiszen elképesztő sebességgel képes információt feldolgozni, összekapcsolni és válaszokat előállítani. A használatát pedig a hatalom határozza meg, de miután jelenleg nagyon nagy a verseny, nem tudni, hogy hogy kinél vagy hol szabadulhat el az AI. „Tehát ellenőrizhetetlenül fejlesztenek és csak megyünk előre, ami probléma” – tett hozzá.

Szintén friss hír, hogy erkölcsileg kötelező megállapodást írt alá Donald Trump amerikai elnök a legnagyobb amerikai techvállalatok, köztük a Google, a Meta és az OpenAI vezetőivel. A dokumentumban többek között a mesterséges intelligenciával kapcsolatos fejlesztések belső felülvizsgálatát, valamint annak független külső ellenőrzését rögzítik. Hogy nem késői-e ez a szabályozás, azzal kapcsolatban Sipos Lóránt úgy fogalmazott, „talán egy kicsit az, de még nem annyira”. Meglátása szerint nagyon fontos, hogy legalább már megvan az a közös felismerés, hogy ezzel valamit kezdeni kell. Egy évvel ezelőtt még úgy látta, hogy a kérdéssel nem igazán lehet előrébb haladni, így a mostani fejleményeket kecsegtetőnek értékeli. Át kell irányítani a figyelmet arra, hogy

a technológia és a tudás mögé oda kell tenni a felelősséget

– emelte ki.

Ennek mentén a Mesterséges Intelligencia és Etikai Fórum is azon dolgozik, hogy létrehozzon egy modellfüggetlen ellenőrzési és kalibrációs kutatási réteget, aminek egyik alapja egy etikai infrastruktúra lenne, valamint egy olyan TUDOK operátor, ami épp abban segítene, hogy modellfüggetlenül tudják ellenőrizni a mesterséges intelligenciát – mondta. Sipos Lóránt szavai alapján ez lényegében egy biztonsági kapu lenne AI-fejlesztőknek, állami szervezeteknek, intézményeknek, ami „nem azt kérdezi, hogy mit gondol az illető, vagy mi az igazság, vagy mi nem igaz, hanem azt nézi és azt figyeli, hogy milyen állapotban van a válasz a valósághoz képest”.

Egy mesterséges intelligencia ugyanis képes rendkívül meggyőző választ írni úgy is, hogy közben a háttérben hiányos az adat, bizonytalanság vagy ellentmondás is van. Viszont

a nagyon meggyőző megfogalmazás nem ugyanaz, mint a megbízhatóság

– húzta alá. Egy egyetemi felmérés szerint ugyanis az emberek 83 százaléka teljes egészében elhiszi, amit a mesterséges intelligencia ír, mert „olyan szépen, meggyőzően” válaszol – jegyezte meg a szakember.

„Mivel sietünk, megyünk előre, nem vagyok benne biztos, hogy a vezetők valós és hiteles adatok alapján döntenek, ezért is van válság” – jegyezte meg a fejlesztések tempójára és az ellenőrzések egyre nagyobb szükségességére utalva.

A TUDOK operátor alapvetően négy dologra fókuszál:

• Koherencia: logikailag érthető és szerkezetileg koherens-e az AI érvelése?
• Belső ellentmondás, következetesség: összhangban maradnak-e egymással az állítások, premisszák és következtetések?
• Kontextuális igazságigazodás: az AI rendelkezik-e a szükséges adattal, információval, ami alapján válaszol?
• Torzítás nyomás: milyen narratív, meggyőzési, kontextuális vagy más nyomás térítheti el a választ az igazságelsőbbségtől? Előfordul ugyanis, hogy a mesterséges intelligencia túlzottan megnyugtatja az embert ahelyett, hogy az igazságra koncentrálna – magyarázta Sipos Lóránt.

A cikk alapjául szolgáló interjút Németh Andrea készítette.