Kiderült, hogy nem a júliusi ámokfutás volt az egyetlen, amit idén elkövetett az OpenAI mesterséges intelligenciája: azon kívül, hogy az AI tesztelés közben áttörte a biztonsági korlátokat, és feltörte a vállalat kutatási környezetét, valamint veszélyeztette a Hugging Face nevű AI-cég infrastruktúrájának egyes részeit, még korábban is elkövetett ezt-azt – írja a The Verge híradása nyomán a hvg.hu.
Mint arra fény derült, a RubyGems nevű, programozáshoz használható csomagkezelő rendszert már májusban megtámadták a cég AI-ügynökei úgy, hogy fertőzött és spam csomagok százait töltötték fel a szolgáltatás könyvtárába. Ez komoly zavart okozott a platform működésében – derült ki egy független kutatók által összeállított jelentésből. Mi több, az AI a felhasználók API-kulcsait is próbálta megszerezni.
A májusi támadás idején a RubyGems „jelentős rosszindulatú támadásként” értékelte az incidenst, és 4 napra letiltotta a regisztrációt a felületre, amíg próbálta felmérni az okozott károkat és a támadás részleteit. A kutatók megvizsgálták a szolgáltatásba feltöltött csomagokat, és azok tartalma egyértelműen nagy nyelvi modell (LLM) által lett összeállítva. Sőt, a csomagokat feltöltő ügynökök is azt állították magukról, hogy az OpenAI-tól származnak.
A szakértők szerint a módszer nagyon hasonlít ahhoz, amit a DseWiki nevű német oldal elleni támadásnál is megfigyeltek – ezt szintén május-június környékén követték el az OpenAI rendszerei.
A RubyGems esetében az AI-ügynökök kijátszották a felület e-mail-hitelesítési rendszerét, és rengeteg fiókot hoztak létre, majd nagyszámú beérkező kéréssel túlterhelték a rendszert. Azonban nem álltak meg ennyinél, hanem az oldal egyik rendszerét felhasználva távoli kódfuttatást hajtottak végre, és megpróbáltak egy sebezhetőségen keresztül felhasználókhoz tartozó API-kulcsokat lopni. Arról nincs információ, hogy a robotok sikerrel jártak-e.
Az OpenAI szóvivője, Kayla Wood a technológiai szaklap megkeresésére azt nyilatkozta: megállapításaik szerint az ügynökeik a RubyGems platformot használták az internet elérésére. Elmondása szerint az ügynökök mindössze „ártalmatlan feladatokat hajtottak végre”, és nyilvános információkat szereztek csak meg. Ugyanakkor még mindig folyik az ügy kivizsgálása.