A VentureBeat szerdán közölt interjút Arvind Narayanan professzorral, a Princetoni Egyetem Center for Information Technology Policy (CITP) igazgatójával, illetve egyik Ph.D. hallgatójával, Sayash Kapoorral, aki a Facebook korábbi szoftvermérnökeként Narayanan szerzőtársa egy megjelenés előtt álló könyvben. Ebben saját megfogalmazásuk szerint azt járják körül, hogy mitől működhet megfelelően a mesterséges intelligencia, mi tesz bizonyos problémákat ellenállóvá vele szemben. A CITP nemrég kinevezett vezetője ebben már hírnevet szerzett magának, amikor 2019-es előadásában kígyóolajnak (snake oil), magyarul kuruzslószernek nevezte azokat az újabban MI néven árult megoldásokat, amelyek szerinte nem működnek és nem is működhetnek.

A riport alapján ezt ma is így látja, sőt újabban azt gondolja, hogy a generatív mesterséges intelligencia körüli felhajtás bizonyos mértékben már az irányítás alól is kicsúszott. Míg korábbi megállapításai szinte kizárólag a prediktív MI-re vonatkoztak, a generatív MI fejlődése és konzumerizálódása meglepően gyorsan zajlik, és több szempontból is új helyzetet teremt. Egyrészt a technológia egy másik irányáról van szó, másrészt a hozzáférhetőség ilyen arányú kiszélesítése olyan adatvédelmi, termékbiztonsági és egyéb kérdéseket vet fel, amelyek korábban nem igazán voltak hangsúlyosak. Bár a szerzők maguk is elismerik a technológia potenciális hasznosságát, a kontroll elvesztése kockázatokat, káros hatásokat vagy etikátlan fejlesztői gyakorlatokat is eredményez.

Súlytalan számok és helyezkedés a forrásokért

A közepesen hosszú beszélgetést teljes egészében érdemes véigfutni a VentureBeat oldalán, de külön kiemelhető belőle a generatv mesterséges intelligencia használatának teljes átláthatatlansága. A tudósok szerint ez még a Facebookhoz képest is látványos, ahol legalább rendsezresen közölnek átláthatósági jelentéseket az aktuális problémákról és a kezelésüket célzó lépésekről. Más kérdés, hogy ezek a lépések mennyit érnek, de az MI esetében még hasonló sem áll rendelkezésre, amire a szabályozás támaszkodhatna a konkrét beavatkozásoktól a strukturális változtatásokig. Narayanan szerint a többség úgy tekint az MI ügyérere, mint amit majd egy véletlenül talált "ezüstgolyóval" fogunk rendezni, pedig a megoldás 80 százaléka a már meglévő törvények betartatása lenne.

Az interjúban szó esik az MI etikai és biztonsági kérdéseivel foglalkozó közösségek közti szakadásról, amit a két szakember lényegében hatalmi harcként értékel. A butaságok és a tudománytalan kinyilatkoztatások mögött mindig azt a küzdelmet látják, hogy ki hajt a finanszírozásra, és ennek érdekében melyik aggodalmakat próbálja priorizálni. Ugyancsak felhívják a mesterséges intelligenciáról szóló sajtóhírek olvasóinak figyelmét, hogy ne hagyják magukat lenyűgözni a számoktól. Ha azt látják, hogy a ChatGPT 70 százalékos teljesítményt ért el az ügyvédi szakvizsgán, vagy még ennél is joban teljesített a földrengésérzékelő mesterséges intelligencia, akkor gondoljanak arra, hogy a laborban végzett kísérleteknek semmi közük nincs a való világ változékony körülményeihez.

Részletek a VentureBeat cikkében »