A nagyváros munkacsoportot állított fel a közigazgatásban működő algoritmusok társadalmi hatásainak vizsgálatára.

Az algoritmizált döntések egyre több fronton befolyásolják az emberek életét, ami alól a kormányzati rendszerek sem jelentenek kivételt. Ez a helyzet New Yorkban is, ahol a rendőrségtől és a tűzoltóságtól kezdve a lakhatási és iskoláztatási ügyeken át az élelmiszerbiztonságig egy csomó automatizált rendszer dolgozik. Az automatizálás előnyei nyilvánvalók, az elfogulatlanság kérdése és a rendszerek transzparens működése azonban minimum aggályos lehet egy olyan környezetben, ahol éppen ez a két szempont osztályozható a legnehezebben.

A New York-i városi tanácsban hétfőn ment át egyhangú támogatással az az augusztusban benyújtott javaslat, amely munkacsoport felállítását írná elő az "automatizált döntéshozó rendszerek" átvilágítására. (A feltételes mód csak amiatt indokolt, hogy a rendelet életbe léptetéséhez szükség lesz a polgármester aláírására is.) A munkacsoport a tervek szerint a jövő év, 2019 végéig működik majd, akkor teszi közzé jelentését a számítási algoritmusok kiegyensúlyozottságáról és egyáltalán a beható vizsgálatokra való alkalmasságáról.

Utóbbi azért lényeges kérdés, mert a rendszerek működésével, annak hatásaival vagy pontos költségeivel maga a városvezetés sincs teljesen tisztában – nem beszélve a város polgárairól, akiknek még ennyi betekintésük sincs azokba a folyamatokba, amelyek a velük kapcsolatos döntéseket hozzák.

A vizsgálatokhoz eszközökre is szükség lenne

A javaslat egyébként a mostani formájában a legelső elképzelések kilúgozott változata. Tavaly májusban még egy olyan tervezetet vázoltak, amely szerint ha egy városi ellenőrzés alatt álló szerevezet a szabályozásokat, büntetéseket vagy szolgáltatásokat automatizált rendszerek bevonásával akarja kezelni, akkor a vonatkozó szoftverek forráskódját mindenki áétal elérhetővé kell tennie, ezen felül a New York-i polgárok által szolgáltatott (tehát valódi) adatokkal kell modellezniük az algoritmusok későbbi működését.

Ebből mostanra annyi maradt, hogy a technikai információt "indokolt esetekben" kell közzétenni, és a munkacsoportnak meg kell vizsgálnia, hogy milyen típusú algoritmusok szorulnak szabályozásra, illetve a polgárok milyen módon nyerhetnek betekintést azok működésébe, hogyan kaphatnak tájékoztatást az őket érintő döntések hátteréről, és mi a teendő, ha valaki "algoritmikus elfogultság" áldozatává válik. Bár a kezdeményezés a maga nemében a városban, az Egyesült Államokban, és talán az egész világon úttörő dolognak számít, a kritikusok szerint nagyon nehéz lesz érdemi eredményeket felmutatni.

A kritikusok szerint a fokozott nyitottság egyben biztonsági kockázatokat is jelent, amennyiben a rosszhiszemű felek hatékonyabban trükközhetik meg a közjóléti szolgáltatásokat; a szállítók ugyanakkor nehezen mennének bele, hogy közszemlére kell tenniük a tulajdonosi technológiákat, ezen keresztül pedig versenyhátrányba kerüljenek a konkurenciával szemben.

A The New Yorker beszámolója azt az (ál)naiv kérdést is felveti, hogy ha a város eddig képtelen volt megbízható módon visszamérni az automatizált rendszerek hatásait, akkor a város által felállított munkacsoport vajon milyen eredményeket szállít majd. Különösen akkor, ha a vizsgálat alá vont szereplőktől jórészt csak önkéntes adatszolgáltatásra számíthat a rendszerek tervezésével, beszerzésével vagy auditálásával kapcsolatban.

Bemondásra már nehezen lehet bizalmat építeni

A tervezet ugyanis ebben a formában nem tartalmaz semmiféle ajánlást vagy stratégiát az érdekérvényesítésre: egy New York méretű, ilyen forrásokkal és demográfiai adatállománnyal rendelkező város simán tárgyalhatna erőpozícióból a beszállítókkal, felrúgva az eddigi gyakorlatot, és a titkosítástól remélt apró eredmények helyett rámehetne a legitimitás és a közbizalom eróziójának megállítására.

Az első lépést mindenesetre a város vezetése megtette, és a munkacsoport működése precedenst jelenthet más helyi kormányzatok számára is. A bejelentésekkel kapcsolatban megszólaló szakértők mindenesetre azt várják, hogy a mostani kísérlet nyomán New York egyre inkább latba veti majd saját súlyát a beszállítókkal való tárgyalásoknál, akár a meglévő szerződések felülvizsgálatával.

A publikus elszámoltathatóság hiányában nem marad más, mint elhinni, hogy az algoritmusok nem egyoldalúak vagy diszkriminatívak. Erre pedig a big data korszakban (akár csak a Facebook milliókat érintő algoritmikus manipulációinak felszínre kerülésével) már nem érdemes apellálni.

Cloud & big data

Rugalmasan korlátos csomagokra váltott a Telenor

Az új kézbe került szolgáltatónál a vezetőség után a terifacsomagoknál is frissítenek. A korlátlan adatforgalmat jó áron biztosító Hello Data megy, helyébe rugalmasabb, de drágább konstrukciók lépnek.
 
Hirdetés

Az ipar digitalizációja a munkaerőpiacot is átformálja

A digitalizáció, amely hamarosan az élet minden területét áthatja, a legelsők között az ipar újabb forradalmát indította el. A folyamat újfajta tudással felvértezett szakembereket igényel. Őket várja folyamatosan bővülő budapesti Industry X.0 csapatába az Accenture is.

Hirdetés

Gépek között, avagy az API kommunikáció rejtett buktatói

Az API kommunikáció biztonsági aspektusaira egyelőre nincsenek egzakt válaszok, de a Balasys megoldása segít a kikerülhetetlenné váló, API-k által jelentett biztonsági kockázatok kezelésében.

A fintech vállalkozásokat helyzetbe hozó európai uniós direktíva általánosságban nem ront a biztonsági helyzeten a bankok szerint. Bizonyos támadási formák azonban elszaporodhatnak, ha nem vigyázunk.

a melléklet támogatója a Balasys

A VISZ éves INFOHajó rendezvényén az agilitás nagyvállalati alkalmazhatósága és tanulhatósága volt az egyik kerekasztal témája. Az ott elhangzottakat gondolta tovább Both András (Idomsoft), a kerekasztal egyik résztvevője.

Ez a nyolc technológia alakítja át a gyártást

a Bitport
a Vezető Informatikusok Szövetségének
médiapartnere

Hogyan forradalmasítja a számítástechnikát a nanotechnológia? Majzik Zsolt kutató (IBM Research-Zürich) írása. Vigyázat, mély víz! Ha elakadt, kattintson a linkekre magyarázatért.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthetően, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport kilencedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2018 Bitport.hu Média Kft. Minden jog fenntartva.