A Google nyolc évvel ezelőtt, 2015 májusában adta ki önálló Photos (Google Fotók) alkalmazását, amely többek között képes volt osztályozni és címkézni a feltöltött képeken szereplő helyeket vagy személyeket. Nem sokkal később azonban egy fekete szoftvermérnök felhívta a vállalat figyelmét a Twitteren, hogy az algoritmus folyamatosan gorilláknak minősítette őt és barátait a róluk készült fotókon. A dolog látványos vitát kavart, és felmerült többek között az a kérdés is, hogy a Google milyen képállományon tanította a modellt, lehetővé téve az ilyen több mint kellemetlen hibákat.
A vállalat természetesen döbbenetét és sajnálatát fejezte ki az incidensek miatt, és a probléma megoldását ígérte, ezen felül időlegesen visszavonta a gorilla címke alkalmazását a fotókon. Az akkori nyilatkozatokból az is kiderült, hogy a Google szerint sem vettek fel elég olyan képet a képzési adatok közé, ami feketéket ábrázolt. Sőt úgy tűnik, hogy ez azóta sem sikerült nekik: a The New York Times néhány nappal ezelőtti beszámolója szerint a Google Photos az MI-technológiai forradalom közepette is csak arra volt képes, hogy blokkolja alkalmazásaiban a gorillák felismerését.
Máshol is ugyanerre jutottak
A lapnál egy olyan saját gyűjteményében keresgéltek, amelyben embereket, állatokat és tárgyakat is ábrázoló felvételek voltak. Az algoritmus simán megette a macskákat vagy a kengurukat, és azonosította a lekérdezéseinek megfelelő fotókat, de a gorillákról szólva egyetlen megfelelő képet sem talált. Amikor a keresést páviánokra, csimpánzokra, orangutánokra vagy majmokra terjesztették ki, ugyanez volt a helyzet. Ráadásul a NYT azt is felfedezte, hogy az Apple Photos is ugyanezzel a problémával küzdött, és ugyanezt a megoldást választotta a problémás keresésekkel kapcsolatban.
A cikk szerint az Apple alkalmazása pontosan megtalálja bizonyos állatok fényképeit, kivéve a főemlősöket; a gorillás keresésre ugyan jött egy pár eredmény, de csak olyan esetekben, amikor a fotón egyértelműsítő szöveg is olvasható volt. Az Apple nem kívánta kommentálni a jelentést, a Google szóvivője pedig annyit tett hozzá, hogy a korlátozás életben maradt, mert az előnyök és a kockázatok nincsenek arányban egymással. Ahogy a NYT írja, a két cég megoldása a képelemző technológiák kihívásai mellett azokra a torzításokra is rávilágít, amelyek a mesterséges intelligenciát jellemzik.
Exkluzív szakmai nap a felhők fölött: KYOCERA Roadshow a MOL Toronyban
A jövő irodája már nem a jövő – hanem a jelen. A digitális transzformáció új korszakába lépünk, és ebben a KYOCERA nemcsak követi, hanem formálja is az irányt. Most itt a lehetőség, hogy első kézből ismerje meg a legújabb hardveres és szoftveres fejlesztéseket, amelyekkel a KYOCERA új szintre emeli a dokumentumkezelést és az üzleti hatékonyságot.
a melléklet támogatója a One Solutions
Digitalizáció a mindennapokban: hogyan lesz a stratégiai célból napi működés?
A digitális transzformáció sok vállalatnál már nem cél, hanem elvárás – mégis gyakran megreked a tervezőasztalon. A vezetői szinten megfogalmazott ambiciózus tervek nehezen fordulnak át napi működéssé, ha hiányzik a technológiai rugalmasság vagy a belső kohézió. A valódi előrelépéshez olyan infrastruktúrára, szolgáltatásokra és partneri támogatásra van szükség, amelyek nemcsak technológiai válaszokat adnak, hanem üzletileg is működőképes megoldásokat kínálnak.
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak