Az MI-technológiák gyors fejlődése jogi és morális megfontolásokból is megkövetelné az etikai normák betartását, nem teljesen függetlenül az üzleti megfontolásoktól sem.

A héten rendezett AI & Big Data Expo Europe egyik panelbeszélgetésén a terület szakértői igyekeztek összeszedni, hogy a jelenlegi és küszöbön álló új szabályozások értelmében mire számíthatnak a mesterséges intelligencia alkalmazására készülő európai vállalkozások. Ennek kapcsán kiemelték azt az Európai Unióban elfogadásra váró törvényt, amelyik a hasonló jogszabályok, például a GDPR alapjaira épít, de kiterjeszti azt a mesterséges intelligenciára is. Az AI News beszámolója szerint ebben kézenfekvő módon a legnagyobb kockázatú rendszerekre koncentrálnak, a szakemberek szerint azonban az előzetes aggályokat itt sem sikerült eloszlatniuk.

Ilyen aggály lenne már a törvény értelmezése is, amely sokféle kötelezettséget ró a terület különféle résztvevőire: a szolgáltatóknak, alkamazóknak vagy importőröknek is megvan a maga felelőssége, amelyeket a jogászoknak kell majd szétszálazniuk. Az sem világos, hogy mindez mennyire lesz költséges lesz a vállalkozások, különösen a kkv-k és startupok számára. A kritikusok itt azzal érvelnek, hogy a túlszabályozás és a bürokrácia kiszorítja az innovációt, a befektetéseket és a munkahelyeket az eurózónából, ami hátrányosan érinti az európai cégeket az amerikai és kínai riválisokkal, illetve a bejáratott iparági óriásokkal folytatott versenyben is.

Ugyancsak kérdéseket vet majd fel a jogérvényesítés, miután az uniós MI-törvény még messzebbre megy a GDPR amúgy is szigorú szankcióinál. Bár lényegében lemásolja a GDPR végrehajtását, de az abban foglaltaknál magasabb, akár 30 millió eurós vagy az éves forgalom 6 százalékának megfelelő bírságokat tesz lehetővé. A világszerte folyamatosan változó szabályok betartása különösen nehéz feladatnak tűnik, a mukasztások pedig súlyos szankciókat vonhatnak maguk után. Eközben az EU megköveteli a magas kockázatú MI-rendszerek auditálását, de a külső auditoknál problémás a belső adatok, döntések vagy bizalmas információk megosztani külső felekkel.

Ugyanannyit segíthet is, mint amennyit árthat

Ahogy a beszélgetésből kiderült, ez a lehetőségek egy második, szervezeten belüli vonalára irányítja a figyelmet, amelyik a kockázatkezelésre épül. Így a modellek fejlesztése, a kockázatkezelésen keresztül megvalósított objektív értékelés és a szabályozói szempontokat képviselő auditorok három védelmi vonalat képeznének. Az EU egyébként explicit betiltaná az "elfogadhatatlan kockázatokat" jelentő alkalmazásokat, három másik kategória (magas, korlátozott és minimális/zéró kockázat) pedig engedélyezett lenne, a jogi kötelezettségek ezzel arányos csökkentése és az átláthatósági követelmények megfelelő szintű biztosítása mellett.

Az átláthatóság a mesterséges intelligencia etikai alapú szabályozásában alapvető jelentőséggel bír, miután az embereknek éreniük kell, hogy milyen indoklással születnek az életüket befolyásoló döntések. Egyre erősebb konszenzus alakul ki abban, hogy a döntéshozatalnak a magyarázható mesterséges intelligenciára (XAI) kell támaszkodnia, amelynek esetében a kimenetek okai mindig visszakövethetőek. Az embereket ugyanakkor még így sem szabad teljesen kivonni a folyamatból. Ha valakitől egy algoritmus tagad meg egy szolgáltatást, az indoklás nyilván akkor is jogos elvárás, de a teljes átláthatóság az MI-től függetlenül sem megvalósítható, sőt nem is célszerű bizonyos esetekben.

Az emberi beavatkozás és felügyelet lehetőségét természetesen az is szükségessé teszi, hogy az MI-technológia még közel sincs az elképzelt szinten, de az etikai szempontok miatt az sem látszik, hogy erről érdemes lenne bármikor is lemondani. A mesterséges intelligencia persze nem csak torzíthatja, hanem éppen erősítheti is a méltányosságot. A hiteldöntéseknél például olyan historikus adatokra támaszkodnak, amelyek nem reflektálnak az emberek helyzetének gyors változásaira. Ilyenkor olyan új típusú bemeneteket is használhatnak majd, mint a mobil adatok, a közüzemi számlák vagy akár az oktatás, bár nyilvnvaló, hogy az ilyen viszonylag kis adatkészletek használat újabb megoldandó problémákat generál.

Részletek az AI News beszámolójában »

Cloud & big data

A kisebb hazai gyártóvállalatok elengedhetetlennek tartják a digitalizációt

Egy friss kutatás szerint az üzleti siker és a technológiai fejlődés csereszabatos kifejezésként élnek a kisebb gyártó vállalkozásokat irányító vezetők fejében.
 
Hirdetés

Így újult meg Magyarország leggyorsabb mobilhálózata

Közel 100 milliárd forintos beruházással, a rádiós és maghálózat teljes modernizációjával zárult le a Yettel történetének egyik legnagyobb műszaki fejlesztése.

A kompromittált rendszerek, a dark weben felbukkanó ügyféladatok vagy a zsarolóvírus-kampányok következményei már a vezérigazgatói és pénzügyi igazgatói irodában csapódnak le – jogi, reputációs és üzleti szinten is. Lehet és kell is védekezni ellene.
Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2025 Bitport.hu Média Kft. Minden jog fenntartva.