A nagy gyógyszerügynökségeknek megfelelő technológiai hatóságra van szükség a mesterséges intelligencia (MI) miatt – írja az Economistban megjelent esszéjében Yuval Noah Harari.
A Sapiens és a Homo Deus című sikerkönyvek történész-filozófus szerzője szerint erre azért van szükség, mert az angol rövidítéssel AI-nak nevezett mesterséges intelligencia „meghekkelte az emberiség operációs rendszerét, a nyelvet”. Erről még azelőtt írt, hogy távozott a Google-tól a világ egyik vezető mesterséges intelligencia-fejlesztője.
Szinte nincs olyan nap, hogy ne lehetne hallani a ChatGPT programról vagy arról, hogy valakik mesterséges intelligenciával írattak iskolai esszéket, leveleket, popdalokat vagy festettek képeket. Harari szerint nem a régi sci-fi írók által megálmodott robotok, hanem az algoritmusok fenyegetik, ráadásul egy új irányból az emberiséget.
Manipulálni tudják a nyelvet és ezzel az emberi kultúrát.
Mert az emberi jogok, mítoszok, vallások és a pénz fogalma is a nyelven keresztül jött létre. Mi lesz, ha a mesterséges intelligencia elkezd jobb történeteket mesélni, jobb zenét és törvényeket írni és jobb képeket rajzolni, mint az ember? – veti fel Harari.
Az is érdekes kérdés, hogy a politikai választási kampányokat hogyan tudják majd befolyásolni az MI-generálta álhírek. Szerinte előfordulhat, hogy a következő elnökválasztás lesz az utolsó még demokratikus választás Amerikában.
Nemsokára MI-rendszerekkel vitatkozunk majd – értelmetlenül – az interneten... miközben az algoritmus, mesteri nyelvkezelésével, intim kapcsolatot épít ki velünk és elkezd befolyásolni
– jósolja. Példaként hozza fel azt a Google-mérnököt, aki azt állította, hogy a chatbot, amin dolgozott, „érzővé” vált. Ez valószínűleg nem volt igaz, de a fejlesztőnek annyira fontos lett az algortimus, hogy képes volt megjegyzésével a munkahelyét kockáztatni – teszi hozzá Harari.
I don't like Yuval Harari, one of Klaus Schwab's favorite advisors.
— Li₿εʁLiøη (@liberlion17) April 24, 2023
I read his book 'Homo Deus: A Brief History of Tomorrow' very interesting, although I do not share philosophy at all.
But yes, AI is very dangerous. https://t.co/sqlny6qZPZ
Szerinte ez a tömegesen gyártott intimitás az, ami az MI leghatékonyabb fegyvere lehet az emberrel szemben.
Harari cikke még azelőtt jelent meg, hogy egy kedden megjelent interjúból kiderült: felmondott „az AI keresztapjaként” is emlegetett Dr Geoffrey Hinton, a Google informatikai tudós és a Google fejlesztője. Ugyan Hinton már 75 éves, de nem a nyugdíjas-évek utáni vágyakozás vezérelte.
A neurális hálózatokat építő tudós az mondta, hogy a valódi digitális intelligencia létében fenyegetheti az emberiséget és hogy immár sajnálja karrierje egy részét.
„Az intelligencia, amit fejlesztünk, nagyon más, mint az emberi intelligencia. Olyan, mintha lenne 10 ezer ember és amikor egy ember megtanul valamit, akkor azt a 10 ezer is azonnal tudja”. Hinton rövidtávú félelme az, hogy az emberek egyre nehezebben tudják majd kiszűrni, mi az eredeti kép és szöveg az interneten és mi nem. „Rosszindulatú szereplők visszaélhetnek vele” – mondta, és itt bedobta Vlagyimir Putyin orosz elnök nevét.
Haririn kívül Elon Musk is kongatja a vészharangot. A futurista milliárdos összeveszett Larry Page-dzsel, a Google egyik alapítójával, mert az
szerinte „digitális Istent” akar létrehozni.