Az amerikai nagyvállalatok egyre nagyobb arányban térnek át az olcsóbb, nyílt súlyú (open-weight) mesterségesintelligencia-modellekre, mivel a gyorsan növekvő IT-költségek miatt az OpenAI és az Anthropic zárt, csúcskategóriás rendszereinek alternatíváit keresik. A folyamat már messze túlmutat a Szilícium-völgyön, hiszen a pénzügyi szektortól a telekommunikációig terjed – írja a Financial Times cikke nyomán a Portfolio.

A nyílt súlyú (open-weight) modellek paraméterei nyilvánosan elérhetők, így

a vállalatok letölthetik, saját hardverükön futtathatják és finomhangolhatják őket anélkül, hogy tokenenként kellene fizetniük a fejlesztőnek.

Az AlphaSense kutatási platform adatai szerint a nyílt súlyú vagy nyílt forráskódú modellekre való hivatkozások száma a vállalati gyorsjelentésekben és befektetői konferenciákon hatszorosára nőtt augusztusban és szeptemberben az egy évvel korábbi időszakhoz képest.

A váltás ténylegesen zajlik, nem csak elméletben: a Vercel mesterségesintelligencia-átjáróján (AI Gateway) augusztusban a feldolgozott tokenek 56 százalékát már nyílt súlyú modellek adták, miközben decemberben ez az arány még mindössze 7 százalék volt.

A tech-cégek mellett ipari vállalatok is követni kezdték a trendet: az AT&T mesterségesintelligencia-terhelésének már mintegy 40 százalékát nyílt modelleken futtatja, és egy éven belül 70 százalékos arányt céloz meg.

Andy Markus, a telekommunikációs óriás adatokért és mesterséges intelligenciáért felelős vezetője szerint napi 45 milliárd tokent dolgoznak fel, ekkora volumen mellett pedig a költségek kritikus tényezővé válnak. A cég saját adataival hangolja finomra a nyílt modelleket, amelyek így az adott feladatokra vetítve a zárt alternatívákkal egyenértékű vagy jobb teljesítményt nyújtanak.

A váltásokban kiemelt figyelmet kapott az adatbiztonság és az adatszuverenitás kérdése is a pénzügyi szempontok mellett. Scott Wallace, a Digital Realty adatközpont-üzemeltető megoldásarchitektúráért felelős igazgatója kiemelte, hogy saját belső csevegőfelületet építettek nyílt súlyú modellekre, az ügyféladatokat pedig soha nem engedik zárt, külső csúcsmodellekbe. A feladatok érzékenységétől és összetettségétől függően így egyfajta hibrid rendszert alkalmaznak.

Mindez fenyegeti az olyan AI-cégek egyeduralmát, mint az OpenAI vagy az Anthropic.

Mindkét cég a múlt héten dobott piacra olcsóbb változatokat a zászlóshajó-modelljeiből, ami jelzi, hogy a kínai riválisokkal vívott árháború egyre élesebbé válik – írja a lap.