Azonnali biztonsági kockázatról van szó, vagy a technológiai katasztrófával kapcsolatos újabb riogatásról? Egyelőre nehéz megítélni az Anthropic mesterségesintelligencia-fejlesztő cég legújabb figyelmeztetését. A vállalat biztonsági szakemberei egy e heti blogbejegyzésben arra hívták fel a figyelmet, hogy alapjaiban változhat meg a kibertámadások természete a terjedni és önállóan működni képes mesterségesintelligencia-rendszerek megjelenésével.

A cég fejlett AI-rendszerek képességeit és gyenge pontjait tesztelő „vörös csapata”, olyan forgatókönyveket vizsgált, amelyekben egy AI-ügynök internetre kapcsolódó eszközöket – „okos fridzsidereket”, automata porszívókat és másokat – próbál feltörni.

A kutatók szerint

az önállóan cselekvő ügynökök hónapokon belül megtanulhatják, hogyan terjedjenek el önállóan a hálózatokon, miközben megpróbálják elkerülni, hogy fennakadjanak a biztonsági hálókon.

Mindez egyelőre előrejelzés és nem tény.

A veszélyt az jelenti, hogy az internetre kapcsolódó háztartási eszközök közül soknak viszonylag gyenge a védelme. Intelligens sütők, televíziók és a robotfűnyírók is célpontok lehetnek – figyelmeztetett a cég. A biztonsági kamerák és a videokonferenciák eszközei szintén sebezhetők, különösen, ha kisebb, beépített mesterségesintelligencia-chipekkel működnek.

A kutatók szerint kezdetben főként a háztartások és a kisvállalkozások eszközei lehetnek célpontok. Egy önállóan terjedő, rosszindulatú „malware” program ugyanis nem feltétlenül egyetlen számítógépet támadna meg: újabb és újabb eszközökre ugrana át, és egyre nagyobb hálózatot építhetne ki magának.

Az Anthropic arra is figyelmeztet, hogy egy ilyen rendszer leállítása rendkívül nehéz lehet. Ha a program több ezer, egymástól független eszközön fut, nincs egyetlen központi szerver, amelynek kikapcsolásával le lehetne állítani. A legrosszabb forgatókönyv szerint több ilyen „AI-féreg” összehangoltan is támadhatna számítógépes rendszereket és hardvereket.

A kutatók ugyanakkor egyelőre nem tudják, pontosan milyen formát ölthetne az önállóan terjedő AI.

Elképzelhetőnek tartanak egy lassan terjedő, egyszerűbb rendszert, de egy olyan fejlett modellt is, amely nagyobb létesítményeket, akár adatközpontokat próbál feltörni. Más változatok csalással szerezhetnének hozzáférést további számítási kapacitáshoz.

A figyelmeztetés akkor érkezett, amikor egyre nagyobb figyelmet kapnak a mesterséges intelligenciát övező biztonsági kockázatok. Az elmúlt hónapokban egymást követték a vészjósló üzenetek: az Anthropic és az OpenAI vezetői is beszéltek már arról, hogy úgynevezett ügynökeik önálló életre kelve akár kormány-rendszereket is megtámadhatnak. Ezért sürgették, hogy az AI-fejlesztés ütemét a biztonsági szempontokhoz kell igazítani, miközben mindkét vállalat folytatja újabb modelljeinek fejlesztését és bevezetését.

Az Anthropic szerint egyszerre két feladatra kell felkészülni: meg kell nehezíteni, hogy az ilyen programok elterjedjenek, és ki kell dolgozni a védelmet, ha a jövőben már nem lehetne őket teljesen eltüntetni a hálózatokról.