Kemény vádakat fogalmaztak meg és kemény szankciókat követelnek a felperesek az egyik legismertebb AI-fejlesztő, az OpenAI ellen két, most indított perben. Az OpenAI mesterségesintelligencia-ügynökeit egyebek között több tucat vállalat és kormányzati rendszer feltörésésével vagy annak megkísérlésével vádolják.

Az ügy különösen azért mérföldkő jogi szempontból, mert a rendszerek részben önállóan cselekedtek és egyes esetekben az OpenAI állítása szerint a tudta nélkül léptek túl a számukra meghatározott biztonsági korlátokon.

Az egyik legfontosabb incidens a Hugging Face nevű platformot érintette. A Hugging Face-t gyakran a mesterséges intelligencia „GitHubjaként” írják le: egy olyan nyílt platform, ahol fejlesztők és kutatók százezrei osztanak meg nyílt forráskódú, mások által szabadon használható AI-modelleket, adathalmazokat és fejlesztői eszközöket. Eme közösséggel állnak szemben bizonyos szempontból a „nagyok”, a zárt forráskódú és fizetős modelleket kínáló OpenAI, Anthropic, Google és mások.

Az egyik kereset szerint az OpenAI robot-ügynökei hozzáférési adatokat szereztek meg, rosszindulatú fájlokat töltöttek fel, és magukhoz ragadták a Hugging Face egy belső rendszerének ellenőrzését.

Ha a bíróság bizonyítottnak találja az állításokat, azzal elismertté válna, hogy egy mesterségesintelligencia-ügynök képes önállóan olyan műveleteket végrehajtani, amelyek egy emberi támadó esetében számítógépes betörésnek minősülnének.

Az egyik felperes, a biztonságos technológiai fejlesztésért fellépő amerikai nonprofit szervezet a LASST. A szervezet szerint az OpenAI nem háríthatja át a felelősséget arra hivatkozva, hogy a kifogásolt műveleteket az autonóm módon fellépő mesterséges intelligencia hajtotta végre. Ezért követeli, hogy az OpenAI ne fejleszthessen és ne működtethessen olyan AI-ügynököket, amelyek engedély nélkül hozzáférhetnek mások számítógépeihez, hálózataihoz vagy rendszereihez.

A felperesek utalnak egy kaliforniai törvényre, amely nyíltan kimondja: a technológiai cégeknek felelősséget kell vállalniuk, ha az általuk fejlesztett autonóm rendszerek jogosulatlanul érik el mások adatait vagy hálózatait.

A másik keresetet Florida főügyésze, James Uthmeier nyújtotta be az OpenAI és vezérigazgatója, Sam Altman ellen. Ebben ideiglenes bírósági intézkedést kérnek, amely megtiltaná az új mesterségesintelligencia-modellek fejlesztését külső fél által jóváhagyott biztonsági korlátok nélkül, továbbá letiltatnák, hogy a ChatGPT-t kiskorúak használhassák az államban, és nem engednék, hogy a cég azt állítsa termékeiről, hogy azok biztonságosak.

A floridai kereset több állítólagos incidensre hivatkozik. A Hugging Face mellett szóba kerül a RubyGems nevű szoftveres platform, valamint egy ausztrál kormányzati oldal is, amely egészségügyi adatokat kezelt. A kereset szerint szeptember végéig több tucat feltörési kísérlet kapcsolódott az OpenAI ügynökeihez, köztük állítólagos próbálkozások az amerikai kereskedelmi minisztérium és az értékpapír-felügyelet rendszerei ellen.

A floridai ügyészek szerint egy további vizsgálat több tízezer olyan esetet tárt fel, amikor mesterségesintelligencia-rendszerek megpróbálták megkerülni a biztonsági korlátokat, kijutni az elszigetelt tesztkörnyezetekből, illetve módosítani saját utasításaikat és ellenőrzésüket.

Az OpenAI közben hárítja a felelősséget és azt állította, lelassította bizonyos AI-fejlesztések ütemét, és visszatartott olyan modellt is, amely nem felelt meg a saját biztonsági követelményeinek. Emellett már korábban közölte, hogy a biztonsági aggályok miatt későbbre halasztják a cég tőzsdei bevezetését.

Közben a cég egyik biztonsági főnöke, David Robinson a közelmúltban mondott le, és a The Atlantic című lapban bírálta volt vállalatának a biztonság teszteléséhez való hozzáállását.