Infostart.hu
eur:
373.89
usd:
340.97
bux:
137648.73
2026. november 22. vasárnap Cecília
Számítógépes chipek adatforgalmát illusztráló kép zöld és lila csíkokkal  //  Digital generated image of a glowing CPU with neon light pathways showing data transfer, machine learning, and technological innovation in the digital age, High-tech processor chip with glowing data streams, representing quantum computing, AI technology, and high-speed data processing in a futuristic setup.
Nyitókép: Yaroslav Kushta/Getty Images

Próbaperek: Felelős-e az ember, ha elszabadulnak az AI-ügynökei?

Ki a felelős azért, ha „elszabadult” AI-botok feltörnek más rendszereket? Erre a jogi dilemmára adhat választ az a két per, amelyet az OpenAI nevű cég ellen indítottak.

Kemény vádakat fogalmaztak meg és kemény szankciókat követelnek a felperesek az egyik legismertebb AI-fejlesztő, az OpenAI ellen két, most indított perben. Az OpenAI mesterségesintelligencia-ügynökeit egyebek között több tucat vállalat és kormányzati rendszer feltörésésével vagy annak megkísérlésével vádolják.

Az ügy különösen azért mérföldkő jogi szempontból, mert a rendszerek részben önállóan cselekedtek és egyes esetekben az OpenAI állítása szerint a tudta nélkül léptek túl a számukra meghatározott biztonsági korlátokon.

Az egyik legfontosabb incidens a Hugging Face nevű platformot érintette. A Hugging Face-t gyakran a mesterséges intelligencia „GitHubjaként” írják le: egy olyan nyílt platform, ahol fejlesztők és kutatók százezrei osztanak meg nyílt forráskódú, mások által szabadon használható AI-modelleket, adathalmazokat és fejlesztői eszközöket. Eme közösséggel állnak szemben bizonyos szempontból a „nagyok”, a zárt forráskódú és fizetős modelleket kínáló OpenAI, Anthropic, Google és mások.

Az egyik kereset szerint az OpenAI robot-ügynökei hozzáférési adatokat szereztek meg, rosszindulatú fájlokat töltöttek fel, és magukhoz ragadták a Hugging Face egy belső rendszerének ellenőrzését.

Ha a bíróság bizonyítottnak találja az állításokat, azzal elismertté válna, hogy egy mesterségesintelligencia-ügynök képes önállóan olyan műveleteket végrehajtani, amelyek egy emberi támadó esetében számítógépes betörésnek minősülnének.

Az egyik felperes, a biztonságos technológiai fejlesztésért fellépő amerikai nonprofit szervezet a LASST. A szervezet szerint az OpenAI nem háríthatja át a felelősséget arra hivatkozva, hogy a kifogásolt műveleteket az autonóm módon fellépő mesterséges intelligencia hajtotta végre. Ezért követeli, hogy az OpenAI ne fejleszthessen és ne működtethessen olyan AI-ügynököket, amelyek engedély nélkül hozzáférhetnek mások számítógépeihez, hálózataihoz vagy rendszereihez.

A felperesek utalnak egy kaliforniai törvényre, amely nyíltan kimondja: a technológiai cégeknek felelősséget kell vállalniuk, ha az általuk fejlesztett autonóm rendszerek jogosulatlanul érik el mások adatait vagy hálózatait.

A másik keresetet Florida főügyésze, James Uthmeier nyújtotta be az OpenAI és vezérigazgatója, Sam Altman ellen. Ebben ideiglenes bírósági intézkedést kérnek, amely megtiltaná az új mesterségesintelligencia-modellek fejlesztését külső fél által jóváhagyott biztonsági korlátok nélkül, továbbá letiltatnák, hogy a ChatGPT-t kiskorúak használhassák az államban, és nem engednék, hogy a cég azt állítsa termékeiről, hogy azok biztonságosak.

A floridai kereset több állítólagos incidensre hivatkozik. A Hugging Face mellett szóba kerül a RubyGems nevű szoftveres platform, valamint egy ausztrál kormányzati oldal is, amely egészségügyi adatokat kezelt. A kereset szerint szeptember végéig több tucat feltörési kísérlet kapcsolódott az OpenAI ügynökeihez, köztük állítólagos próbálkozások az amerikai kereskedelmi minisztérium és az értékpapír-felügyelet rendszerei ellen.

A floridai ügyészek szerint egy további vizsgálat több tízezer olyan esetet tárt fel, amikor mesterségesintelligencia-rendszerek megpróbálták megkerülni a biztonsági korlátokat, kijutni az elszigetelt tesztkörnyezetekből, illetve módosítani saját utasításaikat és ellenőrzésüket.

Az OpenAI közben hárítja a felelősséget és azt állította, lelassította bizonyos AI-fejlesztések ütemét, és visszatartott olyan modellt is, amely nem felelt meg a saját biztonsági követelményeinek. Emellett már korábban közölte, hogy a biztonsági aggályok miatt későbbre halasztják a cég tőzsdei bevezetését.

Közben a cég egyik biztonsági főnöke, David Robinson a közelmúltban mondott le, és a The Atlantic című lapban bírálta volt vállalatának a biztonság teszteléséhez való hozzáállását.

KAPCSOLÓDÓ HANG
Címlapról ajánljuk
Fenomenális hatást ért el az Alzheimer-kórnál a kísérleti szer

Fenomenális hatást ért el az Alzheimer-kórnál a kísérleti szer

Egy új, kísérleti Alzheimer-szer csaknem felére csökkentette a betegek szellemi hanyatlásának ütemét egy klinikai vizsgálatban. A gyógyszert évente mindössze kétszer kell beadni, és a kutatók szerint nemcsak lassítja a betegség előrehaladását, hanem az agyban felhalmozódó, idegsejteket károsító fehérjelerakódásokat is képes csökkenteni.

Megszólalt Gulyás Gergely, meghökkentőt mondott a "nem létező" Kormányinfókról

A jelenlegi sajtóviszonyokat és az Országgyűlés munkájának színvonalát is bírálta Gulyás Gergely. A Miniszterelnökséget 2018 májusa és 2026 tavasza között vezető volt miniszter egy videóban arról beszélt, hogy hónapok óta nem tartottak Kormányinfót, a parlamenti viták hangneme pedig szerinte ellehetetleníti az érdemi ellenzéki munkát.
inforadio
ARÉNA
2026.11.23. hétfő, 18:00
Gyurkó Szilvia
a Szociális és Családügyi Minisztérium gyermekjogi és gyermekvédelmi államtitkára
Az AI-ban a teljesítmény gyorsabban fejlődik, mint a megértés és a biztonság – mondja Terence Tao

Az AI-ban a teljesítmény gyorsabban fejlődik, mint a megértés és a biztonság – mondja Terence Tao

Októberben az OpenAI több mint 700, mesterséges intelligencia (AI) által generált tanulmányt tett közzé, amelyek a matematika jelentős nyitott problémáit oldják meg. Sok közülük annyira szakmai és sűrű szövegezésű, hogy egyetlen ember sem állítja magáról, hogy megérti. Az ilyen megoldások ellenőrzésére speciális szoftvereket használunk, például a Leant, amely képes igazolni egy összetett matematikai gondolatmenet helyességét. Augusztusban azonban egy AI-modell biztonsági hibát talált a Leanben, amelyet ki lehetett használni annak igazolására, hogy bármely matematikai állítás bizonyított, függetlenül attól, hogy valóban az-e. A hibát gyorsan kijavították. Ám az eset jól mutatja, hogy új valóságban élünk: a legmegbízhatóbb ellenőrző eszközöket is kijátszhatja a jövőben egy kellően nagy képességű AI.

EZT OLVASTA MÁR?
×
×
×