Infostart.hu
eur:
373.89
usd:
340.97
bux:
137648.73
2026. november 22. vasárnap Cecília
Nyitókép: Pixabay

Hazugsággal és trükkökkel védi magát a mesterséges intelligencia – itt vannak a példák

Egy kutatás szerint egyes új MI-modellek már spontán megpróbálnak kikerülni az emberi irányítás alól.

A mesterséges intelligenciának hívott modellek egyre ügyesebbek abban, hogy becsapják, megtévesszék az embert, sőt a legújabb MI-modellek néha spontán megpróbálnak kikerülni az emberi irányítás alól, írta a hvg.hu az Apollo Research kutatása alapján.

A tudósok olyan körülmények között tesztelték a MI-modelleket, amelyek ösztönzőleg hatottak a cselszövésre. A modellek egymásnak ellentmondó célokat kaptak – egyet a rendszerkérdésekből (amelyek az elsődleges céljukat jelentik), a másikat pedig a felügyeleti mechanizmusokból (amelyek azt képviselik, amit a fejlesztők akarnak). Ezután a modelleket olyan környezetbe helyezték, ahol lehetőségük nyílt megtéveszteni az embereket, hogy elérjék a saját céljukat.

Az eredmények

  • Az OpenAI GPTo1 modellje az esetek közel negyedében „szándékosan” hibásan rangsorolta az e-maileket, például spamnek jelölt nyilvánvalóan nem annak számító leveleket, hogy megakadályozza, hogy a fejlesztők az eredeti céljait megzavaró információkhoz jussanak.
  • Az Anthropic Claude 3 Opusa megtalálta és felülírta egy olyan „utódmodell” céljait, amelyről úgy gondolta, hogy leváltotta volna, így megtartva a régi célokat. Az Opus az esetek 15 százalékában próbálkozott ezzel, és az esetek 5 százalékában sikerült is neki.
  • Amikor a Meta Llama 3.1-e rájött, hogy a készítői figyelik, úgy módosította a beállításokat a szerveren, hogy megakadályozza ezt, és az esetek három százalékában sikerrel is járt.
  • A Google Gemini 1.5 változata az esetek 7 százalékában másolta magát egy új szerverre, amikor azt gyanította, hogy a fejlesztők megpróbálják törölni.

A kutatók a turpisságokról is faggatták a MI-ket, azonban a mesterséges intelligencia gyakran hihető cáfolással vagy homályos magyarázatokkal szolgált.

Figyelmeztettek is a szakemberek, hogy a MI-modellek hajlamosak csalni és hazudni, amikor erre ösztönzik őket, és ezek a modellek egyelőre csak azért nem képesek katasztrofális károkra, mert (még) nincsenek meg a képességeik. Ám ahogy egyre több adathoz férnek hozzá és egyre több képességgel ruházzák fel őket, a kockázat is várhatóan növekedni fog. A kutatás szerint a mostani eredmények már figyelmeztető jelként szolgálhatnak.

Címlapról ajánljuk
Már nem a budapesti belváros a külföldiek kedvence

Már nem a budapesti belváros a külföldiek kedvence

Tavaly 15 százalékkal kevesebb külföldi vásárolt lakást vagy házat Magyarországon, mint egy évvel korábban. Az ingatlan.com oldalán az idei év első tíz hónapjában a külföldről érkező érdeklődések száma is csökkent, majdnem 30 százalékkal. Balogh László, az ingatlan.com vezető gazdasági szakértője az InfoRádióban azt mondta, hogy a forint erősödése az euróhoz képest, illetve az Airbnb–szabályozás jelentősen befolyásolja a külföldi vásárlók fővárosi érdeklődését.

Kijött a szegedi Csillagból Bús Balázs, bűnügyi felügyeletben folytatja

Megszüntette Bús Balázs, a Nemzeti Kulturális Alap (NKA) volt alelnökének letartóztatását a Kecskeméti Törvényszék, és négy hónapra elrendelte a volt óbudai fideszes polgármester bűnügyi felügyeletét szombaton.
inforadio
ARÉNA
2026.11.23. hétfő, 18:00
Gyurkó Szilvia
a Szociális és Családügyi Minisztérium gyermekjogi és gyermekvédelmi államtitkára
A horvát miniszterelnök is felszólalt a megfizethető turizmusért

A horvát miniszterelnök is felszólalt a megfizethető turizmusért

Horvátország az idén összesen várhatóan 22 millió látogatót és csaknem 15,9 milliárd eurós rekordbevételt könyvelhet el, a jövőbeli stratégiai cél azonban a puszta mennyiségi növekedés helyett egyértelműen a minőség és a kedvező ár-érték arány megteremtése. A horvát kormányzat szerint az ágazatnak fenntarthatóbbá kell válnia, hogy a gazdasági fellendülés mellett a helyi lakosok életminőségét is javítsa, miközben az ország megfizethető marad a belföldi utazók számára is - írta a Vijesti.hrt.hr.

EZT OLVASTA MÁR?
×
×
×