A nyílt levélben megpróbálják körülhatárolni azokat a fegyvereket, amik ellen tiltakoznak. Például a drónok ellen, amelyekre ha fegyvereket helyeznének, olyan fegyvert lehetne létrehozni, ami intelligens módon megtalál egy célszemélyt, és teljesen automatikus módon támadást intéz ellenük - hívta fel a figyelmet Jelasity Márk.

Hozzátette: a nyílt levél szelleméből arra lehet következtetni, hogy olyan fegyverekre gondolnak, amelyek emberi irányítás nélkül végeznek támadásokat. Az elmúlt egy-két évben óriásit fejlődött a tudomány ebből a szempontból. Ma már azon a szinten vagyunk, hogy konkrétan az embereket fel lehet ismerni az arcuk vagy hangjuk alapján.

Vannak például olyan úgynevezett drón-rajok, amelyek lényegében úgy működnek, mint egy méhraj. Ezek viszonylag pici és olcsó gépek, amik önállóan nem rendelkeznek túl nagy intelligenciával, viszont rengeteg lehet egyszerre kilőni belőlük, és rá lehet irányítani őket különböző célpontokra. Ezek nagyjából együtt maradnak, és koordináltan tudják kivitelezni a támadást. Ugyanúgy, ahogy egy méhraj ezek ellen sem lenne hatásos semmifajta rakétavédelmi rendszer, egy ilyen pici, de nagy mennyiségű támadóeszközből álló felhő ellen sem lehetne hatékonyan védekezni jelen pillanatban - ismertette a kutatócsoport munkatársa.

Hangsúlyozta: a mesterséges intelligencia világában nagy mértékben elmosódnak a határok az ember felelőssége és a gép működése között. Ugyan nagyon sokan próbálják azt mondani, hogy ezeknek az automata fegyvereknek mindig van valamilyenfajta emberi szupervíziójuk, de ha figyelembe vesszük azt, hogy az egységes utasítások, amiket ezek a rendszerek kapnak, egyre magasabb és magasabb szintűek lehetnek, az emberi felügyeletnek egyre kisebb és kisebb befolyása van.

"Nagyon nehezen tudnám azt megnevezni, hogy hol van az a pont, amikor még az ember mondja meg, hogy mit kell csinálnia, és hol van az a pont, amikor már a gép kezdi el kitalálni, hogy konkrétan milyen akciókat kell végrehajtania. Már azt is viszonylag nehéz előzetesen tesztelni, hogy ezek biztonságos rendszerek" - fogalmazott.

A nyílt levél hivatkozik más területekre, például a nukleáris technológiára vagy a biológiai fegyverekre. Az az óriási különbség a mesterséges intelligencia és a biológiai fegyverek között, hogy míg a biológiai fegyverek előállításához nagyon speciális szaktudás szükséges, és nagyon nehezen megszerezhető vírusokhoz vagy egyéb kémiai anyagokhoz való hozzáférésre van szükség, addig a mesterséges intelligenciával felszerelt fegyverrendszereknek minden komponense teljesen nyilvánosan elérhető jelen pillanatban is - közölte Jelasity Márk.

"Azt gondolom, hogy ez egy olyan szellem, ami már kiszökött a palackból. A nemzetközi szerződésekkel persze meg lehet próbálni korlátozni vagy tiltani, de nem hiszem, hogy annyira hatékony tud lenni, mint a nukleáris vagy a biológiai fegyverek esetében" - fogalmazott.