A tudósok – köztük Geoffrey Hinton és Yoshua Bengio, a mesterséges intelligencia úttörői – által javasolt testület a teljes ágazatra kiterjedő elszigetelési szabványokat határozna meg, és regisztrálná a jelentős biztonsági incidenseket, amelyeket nyilvánosságra is hoznának.

A négyszáz tudós által aláírt levélben azzal indokolták a testület felállításának szükségességét, hogy az ágazat szereplői által önként vállalt kötelezettségek nem elegendőek. Szerintük a határokon túlnyúló MI-modelleket kezdetben el kell szigetelni a külső hálózatoktól, és független felügyelet alá kell vonni.

Az Anthropic, az OpenAI, a Google, a Meta, az xAI és az Nvidia szeptemberben írta alá a Fehér Házban azt a megállapodást, amelyben önkéntes biztonsági intézkedéseket vállaltak, de végrehajtásuk módját nem tisztázták.

A 34 ország tudósai által megfogalmazott nyílt levelet

számos olyan biztonsági incidens előzte meg az utóbbi időkben, amelyeket a kutatók szerint a fejlett MI-rendszerek tesztelésének és elszigetelésének gyengeségei okoztak.

Henna Virkkunen, a technológiai szuverenitásért felelős uniós biztos pénteken hangsúlyozta, hogy az Európai Unió MI-törvénye alkalmas a zabolátlan MI-rendszerek okozta kockázatok kezelésére.

Hinton és Bengio 2018-ban kapta meg a Turing-díjat Yann LeCun MI-kutatóval együtt, aki azonban nem írta alá a levelet, mivel szerinte a közelmúltbeli biztonsági incidensek főként mérnöki hibákra és nem a mesterséges intelligencia miatti egzisztenciális kockázatokra utalnak.