A DeepMind vezetői állítólag évek óta igyekeznek formálisan is függetlenedni a befektetői érdekektől, és azt próbálják elérni, hogy az MI-technológiákat ne ellenőrizhessék átláthatatlan módon piaci vállalkozások.

A DeepMind alkalmazottai Watermelon (görögdinnye) és Mario néven is hivatkoztak arra a tervre, amelynek célja a mesterségesintelligencia-kutató cég minél markánsabb leválasztása lett volna a Google-ről. A DeepMind tudósai ugyanis attól tartottak, hogy a Google előbb-utóbb rosszul fogja felhasználni az általuk fejlesztett technológiákat – olvasható a Business Insider riportjában, amelyet a lap a vállalat kilenc korábbi és jelenleg is aktív alkalmazottjának beszámolói alapján közölt.

A 2010-ben londoni központtal alapított, de amerikai, kanadai és francia telephelyekkel is rendelkező DeepMind a különböző alapok mellett olyan befektetők pénzével futott fel, mint Peter Thiel vagy Elon Musk. Az MI-startup eredményességét a különféle díjakon és elismeréseken túl az igazolta a legjobban, hogy a Google 500 millió dollárért felvásárolta működésének mindössze negyedik évében; ettől kezdve egy rövid ideig Google DeepMind néven szerepelt, hogy a Google átalakítását követően az Alphabet leányvállalataként, ismét DeepMind Technologies-ként folytassa kvázi-önálló munkáját.

Ennek az önállóságnak a szervezeti felépítésen túl az a mesterséges intelligenciával foglalkozó etikai bizottság lenne az egyik garanciája, amelynek felállítását már az eredeti akvizíció során is kikötötték, de kívülről nézve meglehetősen homályosnak tűnik. Tagjai közé elvileg a Google és a DeepMind is delegál tagokat, miközben az utóbbi olyan átfogó kezdeményezésekben is szerepet vállal, mint a Google, az Amazon, a Facebook, az IBM és a Microsoft támogatásával létrehozott Partnership on AI (PAI) csoport.

Bár a felvásárlás legelőször kölcsönösen előnyösnek tűnt mindenki számára, a Business Insider szerint hamar nyilvánvalóvá váltak a kulturális különbségek. A DeepMind alkalmazottai ugyanis legelsősorban tudósként tekintettek magukra, akik egyrészt elvesztek a Google bürokratikus útvesztőiben, másrészt nem kívánták munkájukat a technológiai óriás teljes irányítása alá helyezni. A cikkből kiderül, hogy egy idő után saját titkosított kommunikációs csatornákat hoztak létre maguk között, és általában bizalmatlanul tekintettek a profitorientált Google elképzeléseire.

Tudósok a részvényesek ellen

A visszaemlékezések alapján azon már a DeepMind alapítója, Demis Hassabis is teljesen kiakadt, amikor kiderült, hogy a Google saját MI-kutató csapata bármilyen forrásmegjelölés nélkül használja és teszi közzé a DeepMind kódbázisának elemeit, innentől kezdve pedig kifejezetten igyekeztek megvédeni az általuk készített programokat. Bár az Alphabet létrehozásával a vállalatok viszonya is átalakult, és a DeepMind az anyacégen belül függetlenül, önálló pénzügyi szervezetként működött tovább, a vezetők célja már a jogi autonómia volt a mesterségesintelligencia-kutatások tekintetében.

A Business Insider szerint a Watermelon beindításához is a techológiával való visszaélésre vonatkozó aggályok vezettek el (különösen a DeepMind nyereségessé válásával), amelyeket látszólag be is igazolt a Google és a Pentagon Project Maven szerződése. Ebből egyébként a Google saját alkalmazottaik ellenállása miatt kénytelen volt kihátrálni, akik nem voltak oda sem az autonóm katonai drónok fejlesztéséért, sem a projekt etikai alapjainak tisztázatlanságáért.

A lap hosszan beszámol a DeepMind és a Google tárgyalásairól a különböző biztosítékokat vagy egy olyan új szervezeti formát illetően, amelynek értelmében a DeepMind kivonhatná magát a részvénytársasági forma bizonyos kötöttségei és a befektetői kontroll alól. Ez végül nem valósult meg, mint ahogy az egyik korábbi alkalmazott elmondása szerint a fent említett etikai tanács sem létezett soha, nem hívták össze, és soha nem is foglalkozott etikai kérdésekkel.

A Business Insider mindezek alapján kérdésesnek tartja a DeepMind jövőjét az Alphabet-Google irányítása alatt, amire a DeepMind függetlenedési törekvései mellett olyan jelek is utalnak, mint például az etikus MI-kutatók rövid szavatossága a Google-nél. A brit Center for Applied Data Ethics képviselője ehhez képest a BI cikkében is kifejti, hogy miylen égető szükség volna az elszámoltathatóság erősítésére a nagy technológiai vállalatok MI-kutatásainak szabályozásában. A DeepMind részéről Demis Hassabis egy júniusi fórumon éppenséggel valamilyen "MI-világszervezet" felállítását javasolta, amely az ENSZ joghatósága alatt, a világ vezető tudósainak közreműködésével gondozhatná ezt a területet.

Szerinte ebben a DeepMind (ahol legutóbb a biológia egyik legnagyobb kihívásának megoldása felé tehettek fontos lépést) saját példájával is elöl jár, amennyiben külön etikai kutatási részleget hozott létre, és házon belül érvényesíti az általa fontosnak tartott szabályokat, szerepmintát teremtve a teljes iparág számára.

Cloud & big data

A vártnál lassabban másznak ki a gödörből az okostelefonok

Az IDC jelentősen visszavett idei forgalomra vonatkozó jóslatából. Az ok a sokszor emlegetett alkatrészhiány és a globális logisztikai kihívások.
 
Hirdetés

Viszlát, nyolcórás munkarend!

A járvány miatti kényszerű lezárások új alapokra helyezték a munka világát is, ami már nem lesz olyan, mint azelőtt.

A cloud computing fontos ígérete, hogy pontosan tervezhetővé teszi az IT költségeit. Akkor miért nem annyi hónap végén a számla, amennyit beterveztünk?

a melléklet támogatója az Invitech

A KPMG immár 22. alkalommal kiadott CIO Survey jelentése szerint idén az informatikai vezetők leginkább a digitalizációra, a biztonságra és a szoftverszolgáltatásokra koncentráltak.

Használtszoftver-kereskedelem a Brexit után

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2021 Bitport.hu Média Kft. Minden jog fenntartva.