A vállalat ismét elbocsátotta egyik vezető szakemberét, ezúttal a mesterséges intelligencia etikai vonatkozásaival foglalkozó csoportjának vezetőjét, aki korábban belső üzenetekben kritizálta a cég döntéseit.

Ahogy a legújabb, forradalmi hatású technológiák egyre inkább átszivárognak a napi felhasználásba, úgy válnak egyre fontosabbá a fejlesztésének etikai vonatkozásai is. Nemrég jelent meg például a The Quantum Daily vitaindítónak szánt videója, melyben a kvantum számítástechnika szakértői próbálják tudatosítani azokat a veszélyeket, amelyeket még idejében végig kellene tárgyalni a kvantum alaprendszerű számítógépek megjelenése előtt. Hasonló, sőt ennél is aktuálisabb probléma a mesterséges intelligencia alkalmazása, ahol a már használatba állított rendszerekről is sorozatosan mutatják ki, hogy elfogultak, diszkriminatívak, és ha hibáznak, akkor azt sokszor látványos és emberi szemmel érthetetlen módon teszik.

Legutóbb január végén számoltunk be arról az európai parlamenti jelentésről, ami egy új jogi keretrendszer alapját képezné majd abban a tekintetben, hogy az Unióban mire lehet és mire tilos felhasználni a mesterséges intelligenciát. A kérdéseket itt árnyalja, hogy maga az MI is elég homályos fogalom, a technológiai implementációk pedig más természetá kockázatokat és előnyöket hordoznak mondjuk a bűnüldözésben vagy az egészségügyben. Vannak olyan alkalmazások, ahol elkerülhetetlen a teljesen új alapokon való szabályalkotás, de nem feltétlenül érdemes minél szélesebb területeket lefedő rendelkezéseket hozni, mivel az átgondolatlanul felállított keretek csak arra lennének jók, hogy hátráltassák a kutatásokat és az innovációt.

Erkölcsi érzék helyett diplomáciai érzéket várnak el

Ez utóbbi álláspontot képviseli a mesterséges intelligencia fejlesztésében nagyhatalomnak számító Google is, ahol az automatizált kiszolgáló technológiák vagy a gépi tanuló algoritmusok szabályozása természetesen üzleti kérdés is. A társaságnál régóta profitközpontként tekintenek az MI-technológiákra, amelyek azonban nem csak a külső szereplőkkel szemben, de a vállalaton belül is gyakran okoznak konfliktusokat. Az amerikai védelmi minisztériummal kötött szerződésből, ami az elhíresült Project Maven néven futott, például saját alkalmazottaik ellenállása miatt voltak kénytelenek kihátrálni, akik nem voltak oda sem az autonóm katonai drónok fejlesztéséért, sem a projekt etikai alapjainak tisztázatlanságáért.

A Google az előző év végén vált meg MI-etikával foglalkozó csapatának egyik vezető kutatójától, Dr. Timnit Gebrutól, aki a BBC-nek adott interjúban intézményesített rasszizmussal vádolta korábbi munkaadóját. Az elbocsátásához vezető szakmai konfliktusra válaszul időközben egy olyan tiltakozó levél is megszületett, amit azóta 4.300 iparági, oktatási és civil szereplő mellett a Google 2.700 saját munkatársa is aláírt, és amelyre azóta a cég vezérigazgatója is kénytelen volt személyesen reagálni. A feszültség azonban az eltelt időben sem enyhülhetett sokat, a múlt héten pedig kiderült, hogy a Google kirúgta az MI-etikai részleg másik vezetőjét, Dr. Margaret Mitchellt is, aki egy szűkszavú Twitter-üzenetben számolt be a dologról.
 


Az ügy érdekessége, hogy a kutató menesztésére mindössze néhány órával azt követően került sor, hogy az Alphbabet bejelentette az MI-etikával kapcsolatos tevékenységének átszervezését is. A Google Research részlegétől több egységet is a vállalat mesterséges intelligenciáért felelős alelnökéhez rendeltek, aki nem sokkal korábban elnézést kért, ha Timnit Gebru elbocsátása sértette volna a színesbőrű vagy női Google-dolgozókat, majd kirúgta a Mitchellt is, aki előzőleg "szörnyen rossz döntésnek" nevezte a szakember elküldését. Mitchell egyébként a céges szakszervezet, az Alphabet Workers Union egyik alapítója, ami azért is lényeges, mert egyes elképzelések szerint éppen az ilyen szerveződés jelenthet hatékony védelmet az MI-kutatóknak az ilyen és hasonló esetekben.

Timnit Gebru elbocsátásához például egy tudományos dolgozat publikálásával kapcsolatos vita vezetett, amelynek nyomán a kutató a marginalizált csoportok elhallgattatásáról írt korábbi főnökeinek. Az MI-etikai csoport utóbb levélben kérte a Google vezetésétől, hogy tegyenek lépéseket a munkájukkal kapcsolatos bizalom visszaállítására, a cég azonban erre még nem reagált. A Venture Beat kérdésére a Google egyik szóvivője annyit árult el, hogy HR-problémaként kezelik az olyan eseteket, amikor egy-egy munkatársuk távozása ennyire érzékeny természetű ügyet jelent. Gebru korábban embertelennek nevezte a társaság "deeszkalációs stratégiáját", ami szerinte arra irányult, hogy őt egy sértett fekete nőnek állítsa be, elmaszatolva a probléma lényegét.

A Ggoogle hivatalos közlése alapján Margaret Mitchell ellen hetekig tartó vizsgálatot folytattak, ez pedig megerősítette, hogy a tudós többszörösen megsértette a vállalat magatartási kódexét és biztonsági irányelveit, beleértve a bizalmas és üzleti szempontból érzékeny dokumentumok, illetves más alkalmazottak személyes adatainak kiszivárogtatását.

Cloud & big data

A falakon is átlátnak majd az izraeli katonák

Egy új fejlesztés valós időben, az alanyok mozgását is követve azonosítja az "élő objektumokat" a cementen és betonon keresztül.
 
Éltek már vissza a bankkártyaadataival? Ha nem, akkor azt nagy valószínűséggel egy csalásfelderítő rendszernek köszönheti.

a melléklet támogatója a Balasys

A Világgazdasági Fórum figyelmeztetése szerint jelentős szakadék tátong a C-szintű vezetők és az információbiztonságért felelős részlegek helyzetértékelése között.

A járvány üzleti vezetőt csinált a CIO-kból

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2022 Bitport.hu Média Kft. Minden jog fenntartva.