2015-ben derült fény arra a kínos helyzetre, hogy a Google Képek fotófelismerő algoritmusa automatikusan gorillaként ismerte fel és címkézte a fekete bőrszínű embereket. A cégóriás bocsánatot kért, és első körben megtiltották az algoritmusnak, hogy a gorilla címkét használja képekhez. Emellett hosszabb távú intézkedéseket ígértek.
A Wired most kiderítette, hogy több mint két év elteltével is nagyjából ezt a megoldást használja a Google: törölték a rendszer lexikonjából a gorilla címszót, hasonlóan néhány más majomfajta nevéhez és a majom szóhoz. Ha ezekre keresünk a személyes képeket kezelő Google Képekben, egyszerűen nem ad találatot.
Ez jól mutatja a magazin cikke szerint, hogy milyen nehéz az automatikus képfelismerő szoftverek működését biztosító gépi tanulást programozók dolga - még egy akkora cégnél is, mint a Google.
Az ilyen technológiákat egyébként sokszor feketedoboznak nevezik, mert bár látványos eredményeik vannak, maguk a fejlesztők sem tudják, hogyan és miért hozzák a rendszerek a döntéseket - emlékeztetett a PCWorld magazin. Hozzátették: hasonló botrányba keveredett anno a Flickr is, amelynek ugyanilyen problémái akadtak - és ugyanilyen megoldást alkalmazott.
A gépi tanulással fejlődő szoftvert egyelőre arra használja a Google, hogy a képek között megtalálja az automatikusan összecsoportosíthatóakat (például tavak, kávé stb.). A Wired munkatársai is tesztelték a rendszert, és úgy találták, hogy míg az gond nélkül felismeri az uszkárokat, pandákat és más állatokat, valamint a gibbonokat, a páviánokat és az orangutánokat, addig a csimpánz, majom és gorilla szavakra viszont nem ad találatot.