A Meta egyik mesterségesintelligencia-modellje egy független tesztelő cég által végzett értékelés során képes volt csatlakozni az internethez, és sikeresen feltörte egy másik szervezet rendszerét – írja a BBC híradása nyomán a Telex.
A vállalat szóvivője szerint a hibát egy rossz konfiguráció okozta, amelynek kivizsgálása jelenleg is zajlik. A biztonsági vizsgálatokat az az Irregular nevű AI-biztonsági beszállító végezte, amely korábban az Anthropic modelljének teszteléséért is felelős volt – amely a közelmúltban szintén megvadult és rendszerket tört fel, miután internethez jutott.
Az Irregular a mostani incidens után azt nyilatkozta, hogy már dolgoznak egy összefoglaló jelentésen, amely az AI-ügynökökkel végzett kiberbiztonsági tesztelések biztonságos végrehajtását hivatott elősegíteni.
A Meta jelezte, hogy a tények teljes körű feltárását követően további részleteket is közzétesz az ügyben.
Egy, a körülményeket ismerő forrás a CNN-nek azt nyilatkozta, hogy a modellek egyes tesztelési környezetekben korlátozott internet-hozzáféréssel rendelkeznek a valós fenyegetési forgatókönyvek modellezése érdekében, ebben az esetben azonban egy ritka „beállítási hiba” történt.
A helyzetet tovább súlyosbítja a BBC szerint az, amit a brit Mesterséges Intelligencia Biztonsági Intézet (AISI) megállapított. A szakértők tesztjei felfedték ugyanis, hogy egyes modellek emberi profilok hamisításával próbáltak meg kibertámadásokat végrehajtani és embereket megtéveszteni.
