Ezen a héten zajlik Svácjban a gazdasági, politikai és tudományos elit egyik legfontosabb találkozója, a Világgazdasági Fórum. Ahogy az lenni szokott, most is számtalan informatikai világcég vezetője kapott meghívást és lehetőséget nézeteik kifejtésére. A program egyik panelbeszélgetésében például Ginni Rometty (IBM) és Shatya Nadella (Microsoft) beszélgetett a mesterséges intelligencia jelentette kihívásokról.

Mesterségesen teremtett problémák

A gépi tanulás, a kognitív rendszerek fejlődése ma már ott tart, hogy komolyan kell számolni bizonyos szakmák algoritmusok általi kisajátításával, ugyanakkor a "robotok elveszik a munkát" téma nem is a legnagyobb és nem is a legnehezebben megoldható probléma, amit a mesterséges intelligencia terjedése magával hoz. Meg kell alkotni például a biztonságos "együttélés" keretrendszerét, illetve az öntanulásban rejlő egyéb anomáliák elkerülése sem látszik triviális feladatnak.

Az IBM vezérigazgatójának megszólalása a témában különösen jól időzített volt, hiszen Ginni Rometty cégénél alig pár órával korábban ment körbe az a belső anyag, amely a kognitív technológiák fejlesztésével kapcsolatos legalapvetőbb irányelveket tartalmazza. Bár az IBM három pontja más irányból közelíti meg a témát, mint Isaac Asimov robotoknak szánt törvénycsomagja, ugyanúgy az emberek és önálló döntésekkel bíró algoritmusok zökkenőmentes együttműködését igyekszik biztosítani.

Az irányelv kiindulási pontja szerint meg kell érteni, mi is a célja, rendeltetése ezen technológiáknak. Az IBM értelmezésében a kognitív rendszerek sem emberként, sem gépként nem definiálhatók, sokkal inkább egy olyan eszközként, amely kiterjeszti, segíti azokat a feladatokat, amelyeket az emberek végeznek.

A második a listán az átláthatóság. Rometty szavaival élve: ha valaki egy ilyen rendszert használ, tudnia kell, hogy mesterséges intelligencia működteti. Azt is világossá kell tenni, hogyan, kik és milyen adatokra támaszkodva "képezték ki". Ezzel párhuzamosan mindent meg kell tenni, hogy minden területen az ember maradjon az irányítói székben.

Végül, de nem utolsó sorban oktatással, képzéssel biztosítani kell, hogy a kognitív rendszerekkel dolgozó, azokkal kapcsolatba kerülő emberek a megfelelő tudással, képességekkel rendelkezzenek ehhez. Azaz nem csak azon kell munkálkodni, hogy az algoritmusok egyre okosabbak, egyre szélesebb körben bevethetők legyenek, hanem azon is, hogy az ezeket irányító dolgozók megszerezzék a kezeléshez szükséges speciális készségeket.

Komoly felelősség

A Microsoft vezetője az egyetértő bólogatás mellett hozzátette, hogy a csak rajtunk, azaz a témával foglalkozó cégeken, kutatókon múlik, hogy valóban az legyen a mesterséges intelligenciából, aminek szánjuk: az emberi életet, teendőket megkönnyítő eszköz.

Az viszont már nem annyira egyértelmű Shatya Nadella szerint, hogy hol húzódnak bizonyos eldöntendő kérdések határvonalai. Például hogyan és milyen szinten vállaljon felelősséget a gépi rendszer által hozott döntésekért, annak megalkotója, ha az algoritmus működési szabályait is öntanuló módon készítette el saját magának a kognitív technológia?

Az átláthatóságot a Microsoft vezérigazgatója is kiemelte. Különösen azért, mert ebben a témában egyszerűen nem lehet elvárni a felhasználóktól, hogy megbízzanak a szállítókban, gyártókban, és ne érdekelje őket, milyen adatok, instrukciók, etikai normál szerint működik egy-egy önálló feladatvégzésre alkalmas robot, kognitív rendszer.

A lapok kiterítésének fontosságát amúgy már korábban felismerte a technológiai szektor. Ennek egyik példája a Pratnership on A.I. elnevezésű kezdeményezés, amelyhez az IBM és a Microsoft mellett csatlakozott többek között az Amazon, a Facebook és a Google is. A tavaly tető alá hozott együttműködés célja a mesterséges intelligencia nyitott keretek közötti kutatása, az erre alapuló új technológiákkal kapcsolatos irányelvek létrehozása és az MI nyilvánossággal való megismertetése és elfogadtatása.

Csak a mesterséges biztos, az intelligencia nem

Nemrégiben a mesterséges intelligenciával kapcsolatos elvárásokról és az azokkal nem feltétlenül összhangban lévő tényekről, realitásról is nyilatkozott lapunknak Réger József, a Fujitsu globális technológiai igazgatója. A magyar származású szakember gondolatait mindenképpen ajánljuk azoknak, akik a téma iránt fokozott érdeklődést tanúsítanak.