„Az emberiség életével játszanak" – Egyre erősödik a folyamat, amitől az AI-kutatók a leginkább félnek

A vezető mesterséges intelligencia-vállalatok – az Anthropic, az OpenAI és a Google DeepMind – egyre nyíltabban beszélnek arról, hogy AI-rendszereik már jelentős szerepet játszanak a következő AI-generáció fejlesztésében. Az Anthropic szerint kódbázisuk több mint 80 százalékát már a Claude írja, és a kutatási munka egyre nagyobb hányadát végzik önállóan AI-ügynökök. A rekurzív önfejlesztésnek (recursive self-improvement) nevezett mechanizmus miatt az iparág több prominens szereplője – köztük az Anthropic vezérigazgatója és az OpenAI kutatási vezetője – a fejlesztések lassítását sürgeti, mivel szerintük az ellenőrzési és biztonsági képességek nem tartanak lépést a gyorsuló fejlődéssel. A kritikusok ugyanakkor arra figyelmeztetnek, hogy a látványos számok mögött egyelőre inkább gyorsabb kódolás áll, mint valódi autonóm önfejlesztés, és a nyílt végű kutatási feladatokban az AI-ügynökök még jelentősen alulteljesítenek.