Infostart.hu
eur:
365.4
usd:
330.35
bux:
146252.73
2026. november 13. péntek Szilvia
A mesterséges intelligenciát imitáló digitális koncepció.
Nyitókép: Getty Images/Lemon_tm

35 másodperc alatt állíthatja le az elszabaduló AI-t az OpenAI új rendszere

Vészleállító rendszert fejlesztett az OpenAI, amely legfeljebb 35 másodperc alatt képes leállítani a potenciálisan veszélyes mesterségesintelligencia-modellek működését. A Control Room nevű megoldást a vállalat már élesítette kutatási infrastruktúrájában.

A központi vezérlőrendszer célja, hogy szükség esetén gyorsan be lehessen avatkozni az egyre nagyobb képességű AI-modellek működésébe. A Control Room többek között az ágensalapú modellképzést, a különböző értékeléseket és a nagyméretű adatfeldolgozási feladatokat is felügyeli. Egy központi szolgáltatáson keresztül ellenőrzi, hogy az adott rendszer továbbra is jogosult-e a működésre, vagyis folytathatja-e a kimenetek generálását – írja az Interesting Engineering nyomán a hvg.hu.

A megoldás három fő elemet kapcsol össze: a kutatási feladatokat, a következtetési motort és magát a Control Roomot. Amikor a kutatók elindítanak egy kísérletet vagy más feldolgozási feladatot, a rendszer egyedi azonosítót rendel hozzá. Ezt minden, a modellek futtatásához szükséges kéréshez csatolják, így a következtetési motor minden alkalommal ellenőrizheti, hogy az adott feladat továbbra is engedélyezett-e.

Ha a kutatók vagy a működést felügyelő rendszerek veszélyt észlelnek, és leállítást kezdeményeznek, a Control Room visszavonja az engedélyt. Ennek következtében a következő kérések már nem teljesülnek, így a modell nem tud további kimeneteket generálni.

A rendszer meghibásodás esetén is a biztonságot helyezi előtérbe: ha maga a Control Room válik elérhetetlenné, a következtetési motor nem engedélyezi az újabb kéréseket. A folyamat csak a központi szolgáltatás helyreállása után folytatódhat.

Az OpenAI közlése szerint a leállítás jelenleg legfeljebb 35 másodpercet vesz igénybe. Ezt az időt egy, az engedélykérések kezelésére szolgáló gyorsítótár használata okozza. A vállalat már dolgozik a késleltetés teljes megszüntetésén, vagyis azon, hogy a beavatkozás gyakorlatilag azonnal hatásos legyen.

Címlapról ajánljuk

Dózsa Csaba az egészségügyi támogatásokról: a tárcának újra kell gondolnia a költségvetés keretösszegeit

Nem feltétlenül jelent valódi többletforrást az egészségügy számára az évente ígért 510 milliárd forintos keretemelés – hívta fel a figyelmet Dózsa Csaba egészségügyi közgazdász az InfoRádióban. A szakértő szerint az összeg egy részét az elmúlt évek inflációs hatásainak kompenzálására, valamint a kórházak adósságainak rendezésére kell fordítani, így a tényleges fejlesztésekre jóval kevesebb pénz maradhat.
inforadio
ARÉNA
2026.11.13. péntek, 18:00
Zacher Gábor
toxikológus, sürgősségi orvos
EZT OLVASTA MÁR?
×
×
×