A Google nyolc évvel ezelőtt, 2015 májusában adta ki önálló Photos (Google Fotók) alkalmazását, amely többek között képes volt osztályozni és címkézni a feltöltött képeken szereplő helyeket vagy személyeket. Nem sokkal később azonban egy fekete szoftvermérnök felhívta a vállalat figyelmét a Twitteren, hogy az algoritmus folyamatosan gorilláknak minősítette őt és barátait a róluk készült fotókon. A dolog látványos vitát kavart, és felmerült többek között az a kérdés is, hogy a Google milyen képállományon tanította a modellt, lehetővé téve az ilyen több mint kellemetlen hibákat.

A vállalat természetesen döbbenetét és sajnálatát fejezte ki az incidensek miatt, és a probléma megoldását ígérte, ezen felül időlegesen visszavonta a gorilla címke alkalmazását a fotókon. Az akkori nyilatkozatokból az is kiderült, hogy a Google szerint sem vettek fel elég olyan képet a képzési adatok közé, ami feketéket ábrázolt. Sőt úgy tűnik, hogy ez azóta sem sikerült nekik: a The New York Times néhány nappal ezelőtti beszámolója szerint a Google Photos az MI-technológiai forradalom közepette is csak arra volt képes, hogy blokkolja alkalmazásaiban a gorillák felismerését.

Máshol is ugyanerre jutottak

A lapnál egy olyan saját gyűjteményében keresgéltek, amelyben embereket, állatokat és tárgyakat is ábrázoló felvételek voltak. Az algoritmus simán megette a macskákat vagy a kengurukat, és azonosította a lekérdezéseinek megfelelő fotókat, de a gorillákról szólva egyetlen megfelelő képet sem talált. Amikor a keresést páviánokra, csimpánzokra, orangutánokra vagy majmokra terjesztették ki, ugyanez volt a helyzet. Ráadásul a NYT azt is felfedezte, hogy az Apple Photos is ugyanezzel a problémával küzdött, és ugyanezt a megoldást választotta a problémás keresésekkel kapcsolatban.

A cikk szerint az Apple alkalmazása pontosan megtalálja bizonyos állatok fényképeit, kivéve a főemlősöket; a gorillás keresésre ugyan jött egy pár eredmény, de csak olyan esetekben, amikor a fotón egyértelműsítő szöveg is olvasható volt. Az Apple nem kívánta kommentálni a jelentést, a Google szóvivője pedig annyit tett hozzá, hogy a korlátozás életben maradt, mert az előnyök és a kockázatok nincsenek arányban egymással. Ahogy a NYT írja, a két cég megoldása a képelemző technológiák kihívásai mellett azokra a torzításokra is rávilágít, amelyek a mesterséges intelligenciát jellemzik.