Az elmúlt hónapokban számos manipulált fotó terjedt az interneten, többek között Ferenc pápáról és Donald Trump egykori amerikai elnökről is.
Azonban sokkal gyakrabban használják ezeket az algoritmusokat pornográf tartalmak készítéséhez az érintettek tudta nélkül, akik életét egy-egy ilyen fotó vagy felvétel sokszor tönkreteszi - mutattak rá szakértők.
Sophie Maddocks, a Pennsylvaniai Egyetem kutatója kiemelte, hogy a mesterséges intelligencia által gyártott pornográf tartalmak terjedése normalizálja a nők kihasználását.
"Milyen üzenetet küldünk a beleegyezésről, ha bármelyik nőt levetkőztethetjük virtuálisan?"
- kérdezte.
Egy amerikai Twitch-felhasználó, QTCinderella a saját példáján tanulta meg, mekkora károkat okozhat a deepfake. A nő egy videóban elmondta: sokan zaklatták, miután képeit pornográf célokra használták fel, és az élmény "megsemmisítő" volt számára. Könnyeivel küszködve tette hozzá: elege van a nők "állandó kizsákmányolásából és tárgyiasításából".
A deepfake pornográf tartalmak bárki jó hírét tönkretehetik,
de használhatják őket megfélemlítésre vagy zaklatásra is, és jól illusztrálják a mesterséges intelligencia veszélyeit.
Egy 2019-ben készült holland tanulmány szerint az interneten megtalálható hamis videók 96 százaléka pornográf tartalmú, és többségük nőket ábrázol. Olyan hírességek is estek már a deepfake áldozatául, mint Taylor Swift énekesnő vagy Emma Watson színésznő, de a jelenség a tudományos élet képviselőit és az aktivistákat is érinti.
Roberta Duffield, a mesterséges intelligencia szakértője rámutatott, hogy az egykor magánjellegű szexuális fantáziák a technológia és a tartalomgyártók segítségével most a nagy nyilvánosság előtt is megjelenhetnek. Hozzátette: az egyszerű hozzáférés, a felügyelet hiánya és az ipar egyre növekvő professzionalizálódása a nők kizsákmányolásának és meggyengítésének új eszközévé teszi ezeket a technológiákat.
Az amerikai Szövetségi Nyomozó Iroda a múlt hónapban figyelmeztetést adott ki a szexuális tartalmú deepfake-en alapuló zsarolások terjedése miatt, amelynek alapjául a közösségi oldalakon megosztott képek szolgálhatnak. A zsarolók célja az, hogy pénzt csikarjanak ki áldozataikból vagy családtagjaikból a hamis képekért cserébe. Az áldozatok akár gyerekek is lehetnek.
A jogszabályok elavultak a mesterségei intelligencia efféle felhasználásával szemben - vélik szakértők.
"A jognak fel kell vennie a lépést" - hangsúlyozta Dan Purcell, a problémával foglalkozó Ceartas nevű vállalat vezérigazgatója. "Ezeket a képeket nem az internet egyik sötét sarkában gyártják és osztják meg, hanem az orrunk előtt" - húzta alá.