Saját kárán tanulhatta meg egy floridai felhasználó, hogy ne mindenre használjon mesterséges intelligenciát, vagy legalábbis ne ossza meg vele a legféltettebb titkait, jelen esetben azt, hogy lövöldözést tervez a sheriff irodájában – írja a Techspot beszámolója nyomán a hvg.hu.

Hiába tűnnek sokak számára diszkrétnek és megbízhatónak a chatbotok, nem csupán a technológia, hanem emberek is állnak mögöttük. A szolgáltatók biztonsági rendszerei pedig úgy vannak beállítva, hogy figyeljék a veszélyesnek tűnő beszélgetéseket.

Az Anthropic például olyan kulcsszavakat és tartalmakat keres a csevegésekben, amelyek fenyegetőnek tekinthetők, és a súlyosságtól függően ezeket emberi felülvizsgálatra küldheti. Ez a mostani esetben is így történt, és

miután a felülvizsgáló komolynak ítélte meg a beszélgetést, az Anthropic továbbította az információt a hatóságoknak.

A rendőrök őrizetbe vették a nőt, és a floridai törvények alapján most erőszakkal való írásbeli fenyegetéssel vádolják.

A vállalat sem tagadja, hogy bizonyos esetekben, így vészhelyzetekben megoszthatja a felhasználói adatokat, ha úgy véli, hogy a nyilvánosságra hozatal haláleset vagy súlyos testi sérülés megelőzése érdekében szükséges. Azaz egy „privát chat” nem feltétlenül jelenti azt, hogy az egy zárt, kizárólag egyetlen személy számára hozzáférhető napló. Az Anthropic pedig nem akart kockáztatni és úgy járni, mint legnagyobb konkurense, az OpenAI, amit már több ízben is perbe fogtak, amiért elmulasztotta értesíteni a hatóságokat, amikor valaki veszélyes dolgokról, például egy támadás, lövöldözés részleteiről, kiterveléséről diskurált a ChatGPT-vel.

Mindez persze felveti azt a kérdést is, hogy valóban elkövetné-e a bűncselekményt az, aki csak „kiírná magából” dühös, erőszakos gondolatait.

Mindenesetre ez a floridai ügy rávilágít, hogy napjainkban a „csak leírtam” és a „valaki komolyan is vette” között nagyon rövid lehet az út, így nem feltétlenül érdemes túlontúl bizalmas beszélgetésekbe bonyolódni a robotokkal, hiszen jogilag és technikailag továbbra is egy online szolgáltatásról van szó.