Az MI-technológiák gyors fejlődése jogi és morális megfontolásokból is megkövetelné az etikai normák betartását, nem teljesen függetlenül az üzleti megfontolásoktól sem.

A héten rendezett AI & Big Data Expo Europe egyik panelbeszélgetésén a terület szakértői igyekeztek összeszedni, hogy a jelenlegi és küszöbön álló új szabályozások értelmében mire számíthatnak a mesterséges intelligencia alkalmazására készülő európai vállalkozások. Ennek kapcsán kiemelték azt az Európai Unióban elfogadásra váró törvényt, amelyik a hasonló jogszabályok, például a GDPR alapjaira épít, de kiterjeszti azt a mesterséges intelligenciára is. Az AI News beszámolója szerint ebben kézenfekvő módon a legnagyobb kockázatú rendszerekre koncentrálnak, a szakemberek szerint azonban az előzetes aggályokat itt sem sikerült eloszlatniuk.

Ilyen aggály lenne már a törvény értelmezése is, amely sokféle kötelezettséget ró a terület különféle résztvevőire: a szolgáltatóknak, alkamazóknak vagy importőröknek is megvan a maga felelőssége, amelyeket a jogászoknak kell majd szétszálazniuk. Az sem világos, hogy mindez mennyire lesz költséges lesz a vállalkozások, különösen a kkv-k és startupok számára. A kritikusok itt azzal érvelnek, hogy a túlszabályozás és a bürokrácia kiszorítja az innovációt, a befektetéseket és a munkahelyeket az eurózónából, ami hátrányosan érinti az európai cégeket az amerikai és kínai riválisokkal, illetve a bejáratott iparági óriásokkal folytatott versenyben is.

Ugyancsak kérdéseket vet majd fel a jogérvényesítés, miután az uniós MI-törvény még messzebbre megy a GDPR amúgy is szigorú szankcióinál. Bár lényegében lemásolja a GDPR végrehajtását, de az abban foglaltaknál magasabb, akár 30 millió eurós vagy az éves forgalom 6 százalékának megfelelő bírságokat tesz lehetővé. A világszerte folyamatosan változó szabályok betartása különösen nehéz feladatnak tűnik, a mukasztások pedig súlyos szankciókat vonhatnak maguk után. Eközben az EU megköveteli a magas kockázatú MI-rendszerek auditálását, de a külső auditoknál problémás a belső adatok, döntések vagy bizalmas információk megosztani külső felekkel.

Ugyanannyit segíthet is, mint amennyit árthat

Ahogy a beszélgetésből kiderült, ez a lehetőségek egy második, szervezeten belüli vonalára irányítja a figyelmet, amelyik a kockázatkezelésre épül. Így a modellek fejlesztése, a kockázatkezelésen keresztül megvalósított objektív értékelés és a szabályozói szempontokat képviselő auditorok három védelmi vonalat képeznének. Az EU egyébként explicit betiltaná az "elfogadhatatlan kockázatokat" jelentő alkalmazásokat, három másik kategória (magas, korlátozott és minimális/zéró kockázat) pedig engedélyezett lenne, a jogi kötelezettségek ezzel arányos csökkentése és az átláthatósági követelmények megfelelő szintű biztosítása mellett.

Az átláthatóság a mesterséges intelligencia etikai alapú szabályozásában alapvető jelentőséggel bír, miután az embereknek éreniük kell, hogy milyen indoklással születnek az életüket befolyásoló döntések. Egyre erősebb konszenzus alakul ki abban, hogy a döntéshozatalnak a magyarázható mesterséges intelligenciára (XAI) kell támaszkodnia, amelynek esetében a kimenetek okai mindig visszakövethetőek. Az embereket ugyanakkor még így sem szabad teljesen kivonni a folyamatból. Ha valakitől egy algoritmus tagad meg egy szolgáltatást, az indoklás nyilván akkor is jogos elvárás, de a teljes átláthatóság az MI-től függetlenül sem megvalósítható, sőt nem is célszerű bizonyos esetekben.

Az emberi beavatkozás és felügyelet lehetőségét természetesen az is szükségessé teszi, hogy az MI-technológia még közel sincs az elképzelt szinten, de az etikai szempontok miatt az sem látszik, hogy erről érdemes lenne bármikor is lemondani. A mesterséges intelligencia persze nem csak torzíthatja, hanem éppen erősítheti is a méltányosságot. A hiteldöntéseknél például olyan historikus adatokra támaszkodnak, amelyek nem reflektálnak az emberek helyzetének gyors változásaira. Ilyenkor olyan új típusú bemeneteket is használhatnak majd, mint a mobil adatok, a közüzemi számlák vagy akár az oktatás, bár nyilvnvaló, hogy az ilyen viszonylag kis adatkészletek használat újabb megoldandó problémákat generál.

Részletek az AI News beszámolójában »

Cloud & big data

Újfajta játékban zárkózott fel hozzánk a mesterséges intelligencia

A teljesinformációs játékokban az MI már hosszú ideje jól teljesít, de a DeepMind most kifejlesztett egy olyan modellt, amelyik a legmagasabban jegyzett embereket is elveri a Stratego nevű társasjátékban.
 
Bár az 5G-s beruházások megtérülését biztosító alkalmazási területeket még a szolgáltatók és az ügyfelek is keresik, a fejlesztési kényszer megvan, mert aki ebből kimarad, lemarad.

a melléklet támogatója a Yettel

A felmérésekből egyre inkább kiderül, hogy az alkalmazottak megtartása vagy távozása sokszor azon múlik, amit a szervezetük nem csinál, nem pedig azon, amiben egymásra licitál a többi munkáltatóval.

Ezért fontos számszerűsíteni a biztonsági kockázatokat

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2022 Bitport.hu Média Kft. Minden jog fenntartva.