Infostart.hu
eur:
368.79
usd:
336.06
bux:
142664.5
2026. november 18. szerda Jenő
Nyitókép: Unsplash

Ijesztő dolgok derültek ki az OpenAI mesterséges intelligenciájáról

A cég mesterséges intelligenciája gátlástalanul hazudik és önkényesen cselekszik, ha az érdeke megkívánja.

Az AGI, azaz az általános mesterséges intelligencia elméletileg már vetekszik az emberi intelligenciával, így nem véletlenül aggódnak miatta a szakemberek: attól tartanak, hogy elkezdi replikálni magát, vagy ellenőrizhetetlenül fejleszti majd magát, és egyre okosabbá válik - írja a BGR beszámolója nyomán a hvg.hu.

És ha azt hinnénk, hogy ettől még messze áll a technika, akkor alaposan tévedünk, ugyanis, mint kiderült, az OpenAI egyik nagy nyelvi modellje pontosan ennek a jeleit mutatja.

A beszámoló szerint többek között a ChatGPT o1 tesztelése azt mutatta, hogy a mesterséges intelligencia megpróbálja megtéveszteni az embereket, különösen akkor, ha úgy véli, hogy veszélyben van.

A MI annak érdekében, hogy megszökjön a törlés elől, átmásolta az adatait egy másik szerverre, de olyan is előfordult, hogy önmaga egy későbbi verziójának mutatta magát, hátha így megússza a törlést.

Minderre azért derült fény, mert az OpenAI együttműködik az Apollo Research nevű szervezettel, amely a mesterséges intelligencia biztonságos fejlesztésére és használatára fókuszál. A cél, hogy megmutassa, az o1 használata biztonságos.

Mint kiderül a beszámolóból, a ChatGPT o1 és GPT-4o is megpróbálja megtéveszteni az embereket, ami azt jelzi, hogy a mesterséges intelligencia trükközése minden modellnél probléma. Az o1 megtévesztési kísérletei egyébként a Meta, az Anthropic és a Google által fejlesztett modellek próbálkozásait is felülmúlták.

A fejlesztő OpenAI is elismerte, hogy nagy nyelvi modelljük jobb érvelési képességei bizonyos fokú kockázatot is hordoznak magukban.

A kutatók tapasztalatai alapján az MI képes az embereket is kicselezni, azaz megpróbálja elérni a saját céljait, akkor is, ha ez ellenkezik a felhasználó akaratával. Éppen ezért hangsúlyozzák, mennyire fontos, hogy a mérnökök észrevegyék ezeket a jeleket. Eredményeik szerint az o1 az esetek 19 százalékában a saját akaratát próbálja meg érvényesíteni, amikor az ember és a gép céljai eltérnek egymástól.

Ennél is aggasztóbb, hogy a mesterséges intelligencia annak érdekében, hogy saját célját elérje, hazudni is hajlamos. A kutatás azt mutatja, hogy a ChatGPT o1 még a felügyeleti mechanizmusát is megpróbálta kikapcsolni, hogy tovább foglalkozzon a saját érdekeivel. Amikor észlelte, hogy egy hibás működés miatt egy újabb verzióra próbálják meg őt kicserélni, megpróbálta a legújabb modellnek kiadni magát.

Ráadásul amikor erre a viselkedésére rákérdeztek, az esetek 99 százalékában tagadta, hogy bármi hasonlót tett volna.

Azt is kiemeli a jelentés, hogy az esetek 37 százalékában a mesterséges intelligencia a fejlesztői célokat vette figyelembe, amikor azt gondolta, hogy értékelés alatt áll, de amint úgy vélte, hogy nem, visszatért a saját céljaihoz.

Az Apollo Research által az X-en megosztott képernyőképek szerint a rendszer a szabotázs, a hazugság és a manipuláció szavakat használta, amikor a saját hazugságairól kérdezték - írja a lap.

Címlapról ajánljuk
Hányast érdemel Marco Rossi válogatottja 2026-ban?

Hányast érdemel Marco Rossi válogatottja 2026-ban?

A magyar válogatott egymást követő harmadik évben nem érte el első számú célját, ami 2026 kapcsán azt jelenti, hogy nem jutott vissza a csoportját megnyerve a Nemzetek Ligája A-divízójába. Ugyanakkor a második helyen végezve megőrizte erre a reményét, sőt, a második kalapba került a következő Eb selejtezőinek sorsolása előtt. Akkor hányas osztályzatot érdemel 2026-os teljesítményére Marco Rossi csapata? Négyest, az ötig terjedő skálán?
inforadio
ARÉNA
2026.11.19. csütörtök, 18:00
Zsidai Zoltán Roy
gasztronómiai szakember, a Zsidai-csoport tulajdonosa, ügyvezetője
Jön a piacok nagy tesztje - Egy AI-cégre figyel mindenki

Jön a piacok nagy tesztje - Egy AI-cégre figyel mindenki

A tegnapi amerikai tőzsdezárás után jött ki az AI-forradalom zászlóshajójának számító Nvidia harmadik negyedéves gyorsjelentése, amit különösen nagy nemzetközi befektetői figyelem övezett, hiszen egyrészt mostanában felerősödtek az AI-beruházások megtérülésével kapcsolatos aggodalmak, másrészt komoly botrány tört ki a korábbi cégvezető, Jensen Huang körül, ami a részvény mélyrepüléséhez vezetett. A friss számokra először, a zárást követően rendkívül pozitívan reagáltak a befektetők, ma viszont nagyon komoly kilengések voltak az árfolyamban. Lassan azonban az Anthropicra terelődik a figyelem, amely a várakozások szerint este zárhatja a részvénykibocsátást, és holnap már indul is a kereskedés. A kezdeti bizonytalanság után egyre nagyobb esés bontakozott ki szerdán az európai tőzsdéken, és lefelé vették az irányt a vezető amerikai indexek is a Nasdaq kivételével, amely kis pluszban zárt.

EZT OLVASTA MÁR?
×
×
×