Ellehetetleníti a nyílt forráskódú mesterségesintelligencia-fejlesztéseket az Európai Unió tervezett szabályozása, állítja a Brooking Intézet egy friss tanulmánya. A szerző szerint ilyen szabályozási keretben nem jöhetnének létre olyan eszközök, mint a GPT-3.
Minden érintett talál rajta fogást
Az egyik legnagyobb probléma, hogy miközben a tervezet nem adja meg az "általános célú MI" egzakt definícióját sem, a nyílt forráskódú fejlesztőknek ugyanazokat a kockázatkezelésre, adatkezelésre, műszaki dokumentációra, átláthatóságra, pontosságra, kiberbiztonságra vonatkozó szabályokat írná elő, mint a kereskedelmi szoftverek gyártóinak. Így aztán előállhat egy olyan faramuci helyzet, hogy egy vállalat nyílt forráskódú fejlesztőket perelne, miközben szabadon (és esetleg ingyen) használja saját megoldásához munkájuk eredményeit.
Ez csak az amúgy is nagy hatalommal rendelkező globális technológiai óriásokat erősítené. Ráadásul áthághatatlan akadályt gördítene olyan kutatások elé, amelyek kritikus fontosságúak ahhoz, hogy a szélesebb közvélemény is megértse, mi az a mesterséges intelligencia. Az EU követelményrendszere bonyolult, és úgy nehezíti a nyílt forráskódon dolgozó közösségek életét, hogy közben az általános célú mesterséges intelligencia használatát egyáltalán nem javítja – vélik a kritikusai.
Az Európai Bizottság 2021 tavaszán közzé tett szabályozási tervezetével sokan elégedetlenek. Az iparági szereplők szerint akadályozza a fejlődést, a jogvédők szerint viszont a kivételek veszélyeztetik az állampolgárok jogait. A szigorú követelmények például nem vonatkoznának a kizárólag kutatási célokra használt és a visszaélések megakadályozását célzó MI-fejlesztésekre. De azt elég nehéz lenne megakadályozni, írja a Brooking Intézet elemzője, Alex Engler, hogy ezek a projektek ne szivárogjanak át a kereskedelmi rendszerekbe, ahol viszont már a rosszindulatú szereplők visszaélhetnének velük.
Engler úgy látja, a nyílt forráskód szabadabb szabályozása épp azt biztosítaná az általános mesterséges intelligenciának, ami a leghatásosabban szabályozná is: a nyilvánosságot. Emellett segítené az MI-vel kapcsolatos kritikai kutatásokat is. És erre nagyon nagy szükség lenne, mert már most is túlságosan koncentrált a piac, és egyre kevesebb nonprofit kezdeményezés indul.
Sok kérdés vár tisztázásra
A TechCrunch több szakértőt is szembesített a Brooking cikkének megállapításaival. Az egyik érdekelt, az Allen Institute for AI alapító vezérigazgatója, Oren Etzioni egyetért az elemzés felvetéseivel. Ő főleg a természetes nyelvi rendszerek terén lát veszélyt. Az EU szabályozása ezt a területet teljesen áttolná olyan nagy technológiai vállalatokhoz, mint a Google vagy a Meta. Ha az EU támogatni szeretné az innvoációt, a nyílt forráskódú közreműködőkre nem szabadna ugyanazokat a terheket róni, mint a kereskedelmi szoftverek fejlesztőire. Egy diák például nem nagyon engedhetné meg magának, hogy megfeleljen az uniós szabályozásnak, és ezért nem is terjeszthetné szoftverét. Etzioni szerint téves út a mesterséges intelligenciával kapcsolatos technológiák általános szabályozása. Ehelyett a konkrét alkalmazásaira kellene összpontosítani. Ott ugyanis jobban megfogható az MI. (A TechCrunch ugyanakkor felidézi egy korábbi cikkét, amely szerint ez a fajta szabályozás nagyjából lehetetlen: minden terméktípusra külön kellene szabályt alkotni, ami több ezer szabályt – az pedig konfliktusokat és még nagyobb szabályozási bizonytalanságot – eredményezne.)
Mike Cook MI-kutató, a Kings's College tanára, a Knives and Paintbrushes közösség tagja, ellenben nem osztja a Brooking félelmeit. Szerint azok sikítanak, hogy az EU szabályozása megfojtja az innovációt, akik minden szabályozást eltörölnének. Egyáltalán nem baj, ha egy jobb világ érdekében törvényeket alkotunk.
A Newcastle School jogászprofesszora, Lilian Edwards egy fontos jogi szempontot vont be az EU-s javaslatról folyó diskurzusba egy tavasszal megjelent tanulmányában: szerinte a tervezet alapján nem a nyílt forráskódú rendszer fejlesztőjét, hanem telepítőjét terheli a felelősség, hogy megfeleltesse a rendszert az MI-rendszerekkel kapcsolatos előírásoknak. Azt azonban elismeri, hogy e téren a tervezetnek vannak hiányosságai.
Többen megfogalmazták kritikaként, hogy a szöveg több ponton homályos, még olyan alapkérdésekben sem fogalmaz egyértelműen, hogy az előre betanított gépi tanulási modellekre vagy csak magára a szoftverre vonatkozik-e.
A szabályok csiszolása még hosszú időt igényel. Mert bár jól hangzik, amit az egyik szakértőtől idéz a TechCrunch: "a nyílt és a felelős innováció az MI területén nem egymást kizáró, hanem inkább egymást kiegészítő célok", generális megoldásnak valószínűleg kevés. A mindennapi gyakorlatban ugyanis nem nagyon lehet vele mit kezdeni.
Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében
"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.
Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni
A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak