New York állam nyilvánosságra hozott bírósági dokumentumai szerint a TikTok úgynevezett placebokísérleteket végzett a felhasználóin. A biztonsági funkciókat bekapcsolni kívánó felhasználók egy részének – köztük tinédzsereknek és gyerekeknek – egy nem működő változatot jelenített meg a platform, miközben a felhasználók azt hitték, hogy a védelmi eszközük aktív – írja a Reuters híradása nyomán a Portfolio.
A bírósági kereset alapján a platform több ezer felhasználón tesztelte az „Algo Refresh” nevű funkciót, amelynek célja az ajánlóalgoritmus alaphelyzetbe állítása lenne azoknál, akik megválnának a nem kívánt vagy potenciálisan káros tartalmaktól.
A kísérletre kiválasztott felhasználók abban a hiszemben voltak, hogy aktiválták a funkciót, holott az ajánlásaikon semmi sem változott, ellentétben azokkal, akik a valóban működő verziót kapták meg.
A TikTok egyik digitális jóllétért felelős termékmenedzsere egy belső üzenetváltásban jelezte, hogy a placeboteszt félrevezető, és ellentmond a funkció eredeti céljának, amely az algoritmus átláthatóságát és a felhasználói kontrollt szolgálná. A vállalat a felmerült aggályok ellenére 2023-ban többször is elvégezte a teszteket több ezer felhasználón, azt vizsgálva, hogy a funkció miként befolyásolja a platformon töltött időt és a hirdetési bevételeket.
A beadványban az is olvasható, hogy a TikTok félrevezette a felhasználókat az Algo Refresh működésével kapcsolatban. A cég azt ígérte, hogy alaphelyzetbe állítja az ajánlóalgoritmust, miközben a változás valójában csupán átmeneti volt. A TikTok szóvivője szerint a vádak torzítják a funkció tényleges működését.
Egy korábban nyilvánosságra hozott dokumentum arról tanúskodik, hogy a platform üzemeltetői korábban is végeztek már kísérletsorozatot:
a TikTok véletlenszerűen kiválasztott felhasználóknál kikapcsolta a káros tartalmak korlátozását szolgáló biztonsági funkciókat.
A per szerint egy New York-i tizenéves fiú, aki alanya volt ennek a tesztnek, öngyilkosságot követett el, miután a platform elárasztotta őt az önkárosítással és öngyilkossággal kapcsolatos tartalmakkal.
New York állam főügyésze indította a pert 2024-ben, ami csak egyike volt annak a több mint két tucat állami szintű keresetnek, amit a platform ellen nyújtottak be. A vádak között szerepel, hogy a TikTok tervezte a gyermekek függővé tételét, valamint félrevezette felhasználóit a biztonsági intézkedésekkel kapcsolatban.
A TikTok a bírósági beadványaiban tagadta a vádakat. Szeptemberben a vállalat Alabamával kötött egyezséget egy akár 300 millió dolláros kártérítésről, és vállalta, hogy módosítja a platform működését az államban élő tinédzserek számára.