Azt már kezdjük elfogadni, hogy az autonóm vezetés feltételeinek a kialakítása még annál is összetettebb, mint korábban gondoltuk, vagy legalábbis reméltük. A mesterséges intelligenciával (MI) szemben azonban még mintha mindig túl nagy lenne az elvárás. Ha azonban elkap bennünket a hév, érdemes visszamenni a gyökerekhez, azaz a hájp elindítóihoz: mit mondanak ők, akik a kezdetektől ebben a világban élnek, és a sikerek mellett komoly kudarcokat is megéltek.

Egyikük Andrew Ng (Google Brain, Baidu MI-részleg), aki egyre mértéktartóbban fogalmaz a technológiával kapcsolatban. A deeplearning.ai-n vezetett The Batch című blogján rendre felhívja a figyelmet az etikai aggályokra is.

MI és automatizálás

Legutóbbi bejegyzésének első témája az automatizálás, amivel a kapcsolatban egyre gyakrabban merül fel az MI. Ng szerint ezt sokan leegyszerűsítik arra a kérdésre, hogy vagy MI-vel automatizálnak, vagy sem. Pedig a kérdés sokkal árnyaltabb, és egyben rávilágít arra, hogy mennyire is nehéz MI-vel komplex problémákat megoldani. Majd rátér a társadalmi hatásokra is.

Ng röntgenfelvételekre épülő orvosi diagnosztikán mutatja be a problémát. Szerinte itt öt fokozata van az MI használatának a folyamat automatizációjában (akárcsak az önvezetésnek). Az első, amikor a diagnosztikához nem használunk MI-t. A második lépcsőfok az ún. árnyék mód: az orvos elemzi a röntgenfelvételt és megállapítja a diagnózist. Az MI szintén elvégzi ezt az elemzést, de nincs hatással az orvos véleményére, így a beteg állapotára se. Az MI adta eredmény csupán a fejlesztőihez jut el, akik az MI teljesítményének kiértékeléséhez használják fel.

A harmadik szinten az MI átkapcsol asszisztens módba. Az MI megvizsgálja a leletet, az alapján ad egy javaslatot a diganózisra, az orvos pedig eldönti, hogy elfogadja vagy sem, elvégre a felelősség az ővé. Az MI ezen a szinten is segíthet, kiemel például a képen olyan apró részletet, ami esetleg az orvos figyelmét elkerülné.

A negyedik szint a részleges automatizáció: az MI önállóan elemez és dönt. Ha azonban nem látja egyértelműnek a helyzetet, átadja a döntés jogát az orvosnak, aki az egész folyamatban jelen van. Az ötödik szint a teljes automatizáció: az MI elemzi a felvételt, és határozza meg a diagnózist (és ki felel annak helyességéért? – kérdezhetnénk, ami az önvezetéssel kapcsolatban is rendre felvetődik).

Minden területen ez a probléma öt szintje

Az MI-guru hansúlyozza, ez a probléma minden területen felmerül: az önvezetéstől a termékek vizuális minőség ellenőrzésén át a médiatartalmak moderálásáig. Szerint el kell fogadnunk, hogy nem is alkalmazható mindenhol bármelyik szint. De az, hogy melyiket alkalmazzuk, csak részben technikai kérdés (pl. mennyire pontos az MI, mekkora és milyen szintű csapat segítheti stb.), részben azonban emberi döntés: milyen mértékben akarjuk átadni a döntést az MI-nek.

Ng szerint érdemes lenne a mesterséges intelligencia helyett az intelligencia kiterjesztésére (intelligence augmentation) összpontosítani. Tehát az MI-nek segítőnek kellene lennie, és nem az ember helyettesítőjének. Az, hogy hogyan döntünk, azért is fontos, írja a szakértő, mert az MI-vel történő automatizációnak komoly össztársadalmi hatása van, amiről viszont csak az ember dönthet. Legalábbis egyelőre.