A nagyváros munkacsoportot állított fel a közigazgatásban működő algoritmusok társadalmi hatásainak vizsgálatára.

Az algoritmizált döntések egyre több fronton befolyásolják az emberek életét, ami alól a kormányzati rendszerek sem jelentenek kivételt. Ez a helyzet New Yorkban is, ahol a rendőrségtől és a tűzoltóságtól kezdve a lakhatási és iskoláztatási ügyeken át az élelmiszerbiztonságig egy csomó automatizált rendszer dolgozik. Az automatizálás előnyei nyilvánvalók, az elfogulatlanság kérdése és a rendszerek transzparens működése azonban minimum aggályos lehet egy olyan környezetben, ahol éppen ez a két szempont osztályozható a legnehezebben.

A New York-i városi tanácsban hétfőn ment át egyhangú támogatással az az augusztusban benyújtott javaslat, amely munkacsoport felállítását írná elő az "automatizált döntéshozó rendszerek" átvilágítására. (A feltételes mód csak amiatt indokolt, hogy a rendelet életbe léptetéséhez szükség lesz a polgármester aláírására is.) A munkacsoport a tervek szerint a jövő év, 2019 végéig működik majd, akkor teszi közzé jelentését a számítási algoritmusok kiegyensúlyozottságáról és egyáltalán a beható vizsgálatokra való alkalmasságáról.

Utóbbi azért lényeges kérdés, mert a rendszerek működésével, annak hatásaival vagy pontos költségeivel maga a városvezetés sincs teljesen tisztában – nem beszélve a város polgárairól, akiknek még ennyi betekintésük sincs azokba a folyamatokba, amelyek a velük kapcsolatos döntéseket hozzák.

A vizsgálatokhoz eszközökre is szükség lenne

A javaslat egyébként a mostani formájában a legelső elképzelések kilúgozott változata. Tavaly májusban még egy olyan tervezetet vázoltak, amely szerint ha egy városi ellenőrzés alatt álló szerevezet a szabályozásokat, büntetéseket vagy szolgáltatásokat automatizált rendszerek bevonásával akarja kezelni, akkor a vonatkozó szoftverek forráskódját mindenki áétal elérhetővé kell tennie, ezen felül a New York-i polgárok által szolgáltatott (tehát valódi) adatokkal kell modellezniük az algoritmusok későbbi működését.

Ebből mostanra annyi maradt, hogy a technikai információt "indokolt esetekben" kell közzétenni, és a munkacsoportnak meg kell vizsgálnia, hogy milyen típusú algoritmusok szorulnak szabályozásra, illetve a polgárok milyen módon nyerhetnek betekintést azok működésébe, hogyan kaphatnak tájékoztatást az őket érintő döntések hátteréről, és mi a teendő, ha valaki "algoritmikus elfogultság" áldozatává válik. Bár a kezdeményezés a maga nemében a városban, az Egyesült Államokban, és talán az egész világon úttörő dolognak számít, a kritikusok szerint nagyon nehéz lesz érdemi eredményeket felmutatni.

A kritikusok szerint a fokozott nyitottság egyben biztonsági kockázatokat is jelent, amennyiben a rosszhiszemű felek hatékonyabban trükközhetik meg a közjóléti szolgáltatásokat; a szállítók ugyanakkor nehezen mennének bele, hogy közszemlére kell tenniük a tulajdonosi technológiákat, ezen keresztül pedig versenyhátrányba kerüljenek a konkurenciával szemben.

A The New Yorker beszámolója azt az (ál)naiv kérdést is felveti, hogy ha a város eddig képtelen volt megbízható módon visszamérni az automatizált rendszerek hatásait, akkor a város által felállított munkacsoport vajon milyen eredményeket szállít majd. Különösen akkor, ha a vizsgálat alá vont szereplőktől jórészt csak önkéntes adatszolgáltatásra számíthat a rendszerek tervezésével, beszerzésével vagy auditálásával kapcsolatban.

Bemondásra már nehezen lehet bizalmat építeni

A tervezet ugyanis ebben a formában nem tartalmaz semmiféle ajánlást vagy stratégiát az érdekérvényesítésre: egy New York méretű, ilyen forrásokkal és demográfiai adatállománnyal rendelkező város simán tárgyalhatna erőpozícióból a beszállítókkal, felrúgva az eddigi gyakorlatot, és a titkosítástól remélt apró eredmények helyett rámehetne a legitimitás és a közbizalom eróziójának megállítására.

Az első lépést mindenesetre a város vezetése megtette, és a munkacsoport működése precedenst jelenthet más helyi kormányzatok számára is. A bejelentésekkel kapcsolatban megszólaló szakértők mindenesetre azt várják, hogy a mostani kísérlet nyomán New York egyre inkább latba veti majd saját súlyát a beszállítókkal való tárgyalásoknál, akár a meglévő szerződések felülvizsgálatával.

A publikus elszámoltathatóság hiányában nem marad más, mint elhinni, hogy az algoritmusok nem egyoldalúak vagy diszkriminatívak. Erre pedig a big data korszakban (akár csak a Facebook milliókat érintő algoritmikus manipulációinak felszínre kerülésével) már nem érdemes apellálni.

Cloud & big data

CAPTCHA? Gotcha!

A gépi kutakodás ellen beépített, népszerű biztonsági lépcső már egy ideje nem tekinthető betonvédelemnek, de egy új kutatási projekt a korábbiaknál is hatékonyabban tudja kijátszani a szöveges CAPTCHA-t.
 
A nyilvános felhőmegoldással szembeni aggályok az elmúlt néhány évben folyamatosan fókuszban voltak, de az on-premise megoldások sem tökéletesek. Mit válasszunk?

a melléklet támogatója a Cisco Systems

Hirdetés

Így mond all-int a Cisco, ha infrastruktúrát készít

A hiperkonvergens infrastruktúrák úgy biztosítják a felhő gyorsaságát és rugalmasságát, hogy a bizalmas adatokat nem kell külső szolgáltatóra bízni. A Cisco Hyperflex all-in-one megoldásába pedig már multi-cloud platformok is integrálhatók.

A VISZ éves INFOHajó rendezvényén az agilitás nagyvállalati alkalmazhatósága és tanulhatósága volt az egyik kerekasztal témája. Az ott elhangzottakat gondolta tovább Both András (Idomsoft), a kerekasztal egyik résztvevője.

Ez a nyolc technológia alakítja át a gyártást

a Bitport
a Vezető Informatikusok Szövetségének
médiapartnere

Az Oracle átáll a féléves verzió-életciklusra, és megszünteti az ingyenes támogatást üzleti felhasználóknak. Mire kell felkészülni? Dr. Hegedüs Tamás licencelési tanácsadó (IPR-Insights Hungary) írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthetően, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport kilencedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2018 Bitport.hu Média Kft. Minden jog fenntartva.