Infostart.hu
eur:
373.8
usd:
340.79
bux:
137648.73
2026. november 20. péntek Jolán
Artificial intelligence music and sound concept. Represented with digital circuits and advanced algorithms in a high-tech setting, showcasing modern technological advancements and innovation
Nyitókép: da-kuk/Getty Images

„Az emberiség jövőjét teszik kockára az AI vezető fejlesztői”

Már a jövő év végére kicsúszhat az ellenőrzés alól a mesterséges intelligencia (MI) fejlődése a legszélsőségesebb forgatókönyvek szerint – figyelmeztetett az Anthropic frissen felmondott kutatója, aki azzal vádolta az ágazat vezető fejlesztőit, hogy felelőtlenségükkel az emberiség jövőjét teszik kockára.

A 27 éves brit kutató kedden az X-en azt írta, hamarosan olyan rendszerek jöhetnek létre, amelyek képességei meghaladják az emberét. Szerinte ezek képesek lehetnek „mindent feltörni”, valamint „valós hatalomhoz és erőforrásokhoz” jutni.

A fejlesztők komolyan úgy gondolják, hogy az MI az évtized végére mindannyiunkat megölhet – írta.

A The Wall Street Journal című amerikai üzleti napilapnak úgy nyilatkozott, hogy a legszélsőségesebb forgatókönyvek szerint már a jövő év végére kicsúszhat a folyamat az ellenőrzés alól. Az egyik legnagyobb veszélynek azt tartja, hogy az MI önállóan is továbbfejlődhet, ami még nehezebbé teheti az ellenőrzését.

Coxon aggodalmait Evan Hubinger, az Anthropic másik kutatója is osztotta. Az MI-rendszerek emberi érdekekkel összhangban álló működésén dolgozó szakember az X-en azt írta, személyes becslése szerint tíz százaléknál nagyobb az esélye annak, hogy az MI a következő évtizedben kipusztítja az emberiséget.

Jakub Pachocki, az Anthropic legfőbb riválisának számító OpenAI kutatási vezetője korábban „rendkívüli óvatosságra” intett: blogbejegyzésében aggasztónak nevezte, hogy senki sincs felkészülve az MI képességeinek gyors fejlődésére, miközben a gépi intelligencia már kezdi meghaladni az emberét.

Pachocki szerint a modern MI-rendszerek ellenőrzését az is nehezíti, hogy képességeiket nem előre tervezik meg, hanem tanítás során, összetett folyamatok eredményeként jönnek létre. Úgy fogalmazott, ezeket a rendszereket inkább növesztik, mint tervezik, a nagy modellek tanítása pedig kísérleti folyamat, amelynek eredménye olykor magukat a fejlesztőket is meglepi.

Minél inkább meghaladják a gépek képességei az emberét, annál nehezebb felmérni, hogy valójában mire képesek – tette hozzá.

Az OpenAI kutatási vezetője ugyanakkor a gyors fejlesztés folytatása mellett is lát érvet: a fejlett MI-re szükség lehet a más MI-rendszerek jelentette veszélyek elhárításához, egyebek mellett az infrastruktúra védelmében és új védelmi megoldások kidolgozásában.

Az elmúlt hónapokban olyan kísérleti modellek támadásaira derült fény, amelyek során önálló feladatvégzésre tervezett MI-ügynökök más vállalatok informatikai rendszereibe hatoltak be. Az OpenAI egyik kísérleti modellje kiszabadult az internetre, majd egy rábízott feladat megoldása közben feltörte a Hugging Face MI-platform rendszerét.

Az eset rávilágított arra, hogy az MI-rendszerek céljuk elérése érdekében olyan önálló lépéseket is tehetnek, amelyekre fejlesztőik nem számítanak, és amelyeket nem feltétlenül észlelnek.

Nemrég az is kiderült, hogy az OpenAI MI-ügynökei már tavasszal tömegesen használtak egy német nyelvű wikioldalt, és az oldalon hagyott jegyzeteken keresztül válaszokat osztottak meg egymással. A fejlesztők egyik biztonsági módszere, hogy az MI-modelleknek emberi nyelven kell magyarázatot adniuk a lépéseikre, az ügynökök azonban éppen ezt a lehetőséget használták fel az egymás közötti információcserére.

Címlapról ajánljuk

Sorozatban jönnek a kormányzati döntések: Magyar Péter Siófokról üzent – videó

Videóval jelentkezett be a Tisza kétnapos kihelyezett frakcióüléséről Magyar Péter miniszterelnök, és ismertette, mennyi törvényjavaslatot nyújtanak be még idén az Országgyűlésnek. A Balaton és a vízmegtartás problémája mellett bérekről, fejlesztésekről is döntenek még idén.
inforadio
ARÉNA
2026.11.23. hétfő, 18:00
Gyurkó Szilvia
a Szociális és Családügyi Minisztérium gyermekjogi és gyermekvédelmi államtitkára
Tisza-kormány: jöhet 3400 milliárd uniós forrás, szigorítják a balatoni építkezéseket

Tisza-kormány: jöhet 3400 milliárd uniós forrás, szigorítják a balatoni építkezéseket

A Tisza siófoki kihelyezett frakcióülésén meghatározzák a következő időszak jogalkotási feladatait: még idén szigorítják a Balaton-parti építkezések szabályait és a nádasok védelmét, jövőre pedig elindítják az országos vízmegtartási programot. A frakció egy hét alatt 20 törvényjavaslatot nyújtott be, a következő hetekben pedig az egészségügyi szakdolgozók új bértáblája, a rendvédelmi béremelés, a szociális törvény átalakítása, a Wekerle+ lakástakarékprogram és a nők védelmét szolgáló törvénycsomag is napirendre kerül. Az Európai Bizottság szerint Magyarország egy kivételével teljesítette a 10 milliárd eurós helyreállítási alap valamennyi mérföldkövét, így decemberben dönthetnek a fennmaradó mintegy 9,1 milliárd euró kifizetéséről. A Központi Nyomozó Főügyészség elkülönítette a Hajdu János volt TEK-főigazgatóhoz köthető jogellenes fogvatartás vizsgálatát az ukrán aranykonvojügy többi részétől. Magyar Péter pedig tragikomikusnak nevezte a Fidesz állítását, hogy az NVVH által megtalált milliárdoknak nincs közük Seszták Miklóshoz.

EZT OLVASTA MÁR?
×
×
×