Egyre nagyobb felháborodás kísári a Zoom új termékét, miután a múlt hónapban kiderült, hogy a társaság mesterségesintelligencia-rendszeren dolgozik a felhasználók érzelmeinek értékelésére. Az új megoldásról legelőször a Protocol számolt be április közepén, azt állítva, hogy a Zoom értékesítéstámogató eszköze a felhasználók arcát és beszédét vizsgálja, hogy meghatározza érzelmeiket. A dolgot néhány nappal ezelőtt a Zoom is részletesebben bemutatta saját oldalán, ahol a vállalat azt magyarázza, hogy a Zoom IQ for Sales metrikája mennyire hasznos lesz "a trendekbe való bepillantáshoz" és ahhoz, hogy az értékesítők fejleszthessék saját tárgyalástechnikai képességeiket.

Nem meglepő azonban, ha a normális emberek disztópikusnak tekintik a technológiát, és ennek megfelelő kritikával illetik. Ennek egyik látványos megnyilvánulása az a nyílt levél, amelyet közösen jegyez több mint két tucat jogvédő csoport, és amelyik a Zoom vezérigazgatójának címezve azt sürgeti, hogy a cég hagyjon fel az emberi érzelmeket vizsgáló mesterséges intelligencia kutatásával. Egyik legfontosabb aggályuk természetesen az, hogy az ilyen jellegű MI felhasználható a munkaerő-felvételi folyamatok vagy a pénzügyi döntések során, például annak eldöntésére, hogy kaphat-e valaki kölcsönt. Ez pedig egyértelmű lehetőséget ad a már meglévő egyenlőtlenségek további erősítésére.

Hajlamosak felülbírálni saját magukat

A Zoom szerint ugyanakkor az eredményeket nem arra szánják, hogy a foglalkoztatást érintő vagy ahhoz hasonló jellegű döntésekhez használják fel, ráadásul a mérőszámokhoz rendelt tartományok nyilvánosan elérhető kutatásokon alapulnak. A nyílt levél egyik aláírója, az American Civil Liberties Union (ACLU) non-profit jogvédő szervezet helyettes vezetője ettől függetlenül lidércesnek nevezte az érzelmeket analizáló mesterséges intelligenciát, annak kutatását pedig áltudománynak titulálta. A Zoom IQ egyébként a beszélgetések és az abban résztvevők olyan paramétereit értékeli, mint a beszéd-hallgatás arány, a beszéd sebessége, a töltelékszavak, a leghosszabb monológ, a türelem, a figyelemfelkeltő kérdése, illetve az érzelmek és az eköteleződés szóban forgó elemzése.

Ahogy a levélben áll, az arckifejezések egzakt értékelése nem igazán tekinthető tudományos dolognak, ugyanakkor alkalmas a diszkriminációra és a manipulációra. A rendszer alayait arra kényszerítheti, hogy erővel próbálják meg elfojtani érzelmeiket, ezen felül olyan mélyen személyes adatok nagy volumenű begyűjtését feltételezi, ami az alkalmazó szervezeteket egyből a hekkerek és az ilyen információra vadászó állami ügynökségek célpontjává teheti. Az aláírók arra kérik a Zoom vezetőit, hogy ha korábban már több ízben is megváltoztatták elhatározásukat néhány, a személyes adatok védelmét érintő ügyben, akkor most is hozzanak hasonló döntést, és nyilvánítsák ki, hogy ilyen technológiáknak nincs helyük a videokommunikációban.