Alig egy hete jelentette be a Meta a Muse Image nevű AI-képgenerátort, illetve a videókat készítő Muse Video-t. A videós funkciót még nem adta ki a vállalat, a képgenerátort viszont igen, és hamar kiderült, hogy nem kevés gond van vele – írja a hvg.hu.

A Meta által fejlesztett AI egy parancson keresztül bárki Instagram-fiókját megmutatja, és arra is megkérhető a rendszer, hogy készítsen róla képet – akkor is, ha a két felhasználó nem simeri egymást. Az jelentette az egyetlen védelmet, ha az adott profil privátra volt állítva, ekkor ugyanis a chatbot jelezte, hogy nem fér hozzá a képekhez. Minen más esetben akár fotorealisztikus, de teljesen valótlan képeket lehetett vele generálni.

A Meta közölte: a rendszer biztonsági garanciái nem engedik, hogy bárki fotójáról szexuális tartalmú, vagy egyéb hasonló felvétel készüljön, nem nehéz belátni, hogy az idegenek fotóinak beleegyezés nélküli felhasználása finoman szólva is problémás.

A kritikus hangok, úgy tűnik, kellőképpen hangosak volta ahhoz, hogy a Meta meghallja őket, így most közölték, hogy a Muse Image kifogásolt funkciója „célt tévesztett”, ezért leállítják. Mint írták, az ő céljuk csak egy „hasznos és kreatív” eszköz biztosítása volt.

Volt ugyan lehetőség arra, hogy a felhasználó megakadályozza a képeinek használatát, ehhez viszonylag mélyen bele kellett menni az Instagram beállításaiba, vagy egyszerűen privát státuszúra kellett állítani a fiókot.

A funkciót nemcsak a hétköznapi felhasználók kritizálták. A hollywoodi CAA ügynökség – amelynek ügyfelei között ott van többek között Tom Hanks és Meryl Streep is – közölte, hogy senkinek a nevét, képmását, hangját vagy kreatív munkáját nem használhatja fel egy harmadik fél anélkül, hogy arra ne adott volna az illető kifejezetten engedélyt.

Egyelőre nem tudni, hogy a csak újragoldolja és átdolgozza-e a funkciót, vagy teljesen ki is vezeti.