Infostart.hu
eur:
373.89
usd:
340.97
bux:
137648.73
2026. november 22. vasárnap Cecília
Nyitókép: Pixabay

Hazugsággal és trükkökkel védi magát a mesterséges intelligencia – itt vannak a példák

Egy kutatás szerint egyes új MI-modellek már spontán megpróbálnak kikerülni az emberi irányítás alól.

A mesterséges intelligenciának hívott modellek egyre ügyesebbek abban, hogy becsapják, megtévesszék az embert, sőt a legújabb MI-modellek néha spontán megpróbálnak kikerülni az emberi irányítás alól, írta a hvg.hu az Apollo Research kutatása alapján.

A tudósok olyan körülmények között tesztelték a MI-modelleket, amelyek ösztönzőleg hatottak a cselszövésre. A modellek egymásnak ellentmondó célokat kaptak – egyet a rendszerkérdésekből (amelyek az elsődleges céljukat jelentik), a másikat pedig a felügyeleti mechanizmusokból (amelyek azt képviselik, amit a fejlesztők akarnak). Ezután a modelleket olyan környezetbe helyezték, ahol lehetőségük nyílt megtéveszteni az embereket, hogy elérjék a saját céljukat.

Az eredmények

  • Az OpenAI GPTo1 modellje az esetek közel negyedében „szándékosan” hibásan rangsorolta az e-maileket, például spamnek jelölt nyilvánvalóan nem annak számító leveleket, hogy megakadályozza, hogy a fejlesztők az eredeti céljait megzavaró információkhoz jussanak.
  • Az Anthropic Claude 3 Opusa megtalálta és felülírta egy olyan „utódmodell” céljait, amelyről úgy gondolta, hogy leváltotta volna, így megtartva a régi célokat. Az Opus az esetek 15 százalékában próbálkozott ezzel, és az esetek 5 százalékában sikerült is neki.
  • Amikor a Meta Llama 3.1-e rájött, hogy a készítői figyelik, úgy módosította a beállításokat a szerveren, hogy megakadályozza ezt, és az esetek három százalékában sikerrel is járt.
  • A Google Gemini 1.5 változata az esetek 7 százalékában másolta magát egy új szerverre, amikor azt gyanította, hogy a fejlesztők megpróbálják törölni.

A kutatók a turpisságokról is faggatták a MI-ket, azonban a mesterséges intelligencia gyakran hihető cáfolással vagy homályos magyarázatokkal szolgált.

Figyelmeztettek is a szakemberek, hogy a MI-modellek hajlamosak csalni és hazudni, amikor erre ösztönzik őket, és ezek a modellek egyelőre csak azért nem képesek katasztrofális károkra, mert (még) nincsenek meg a képességeik. Ám ahogy egyre több adathoz férnek hozzá és egyre több képességgel ruházzák fel őket, a kockázat is várhatóan növekedni fog. A kutatás szerint a mostani eredmények már figyelmeztető jelként szolgálhatnak.

Címlapról ajánljuk
Már nem a budapesti belváros a külföldiek kedvence

Már nem a budapesti belváros a külföldiek kedvence

Tavaly 15 százalékkal kevesebb külföldi vásárolt lakást vagy házat Magyarországon, mint egy évvel korábban. Az ingatlan.com oldalán az idei év első tíz hónapjában a külföldről érkező érdeklődések száma is csökkent, majdnem 30 százalékkal. Balogh László, az ingatlan.com vezető gazdasági szakértője az InfoRádióban azt mondta, hogy a forint erősödése az euróhoz képest, illetve az Airbnb–szabályozás jelentősen befolyásolja a külföldi vásárlók fővárosi érdeklődését.

Anyák egy kis csoportja most tényleg rosszul jár

Azokról van szó, akik elmúltak 40 évesek, 50 évesek nem, de „csak” két gyermekük van, azok ugyanis már elesnek az életük végéig szóló szja-mentességtől. Már azt is tudni, mennyit veszítenek.
inforadio
ARÉNA
2026.11.23. hétfő, 18:00
Gyurkó Szilvia
a Szociális és Családügyi Minisztérium gyermekjogi és gyermekvédelmi államtitkára
Amerika már a jövő háborújára készül, de hatalmas vita robbant ki az egyik legfontosabb fegyverről

Amerika már a jövő háborújára készül, de hatalmas vita robbant ki az egyik legfontosabb fegyverről

Amikor az Egyesült Államok 2017-ben a Next Generation Squad Weapon (Új Generációs Rajfegyver) program keretében bejelentette, hogy leváltják a jól bevált M16-os és M4-es gépkarabélyokat, nagyjából borítékolható volt, hogy lesznek problémák az új kézifegyver bevezetésével. A svájci tervezésű SIG Sauer MCX SPEAR (amerikai szolgálatban M7, illetve M250 néven) koncepciója sokak számára nem szimpatikus, a mindig külön utakon járó tengerészgyalogság pedig a jelek szerint igyekszik kiugrani a programból, és megtartani a német M27 IAR-t. Nézzük, mit tud a két fegyver, és miért van ekkora eltérés a két haderőnem hozzáállásában.

EZT OLVASTA MÁR?
×
×
×