A villamosdilemmának (trolley problem) nevezett felvetés azt a kényelmetlen kérdést szegezi nekünk, hogy azokban a helyzetekben, amikor csak rossz döntések közül választhatunk, a szigorúan gyakorlatias vagy az erkölcsileg igazolható(bb) elhatározásra szánjuk-e rá magunkat. A választás ebben az esetben két lehetőséget jelent: egy villamos éppen elütne egy csapatnyi embert, de a váltó átállításával lehetőségünk van eltéríteni a szerelvényt egy másik vágányra, ahol csak egyetlen ember ácsorog. Más szóval, feláldozhatunk olyasvalakit a veszteségek számottevő csökkentése érdekében, akinek semmi köze nincs az egész ügyhöz.

A dilemma első ránézésre a morálfilozófusok megszokott agyrémei közé tartozik, hiszen egy csapással olyan helyzetbe hoz minket, hogy valakinek a haláláért mindenképpen felelősek leszünk. Viszont ha kisebb tétekkel is, de időnként mindenkivel szembejönnek hasonló dilemmák, bizonyos esetekben pedig tényleges életek is múlnak egy ilyen döntésen: a közúti közlekedésben például bárki kerülhet olyan helyzetbe, amikor pillanatok alatt határoznia kell a villamosdilemmára nagyon hasonlító szituációban. A választás nyilván nem egyértelmű, nem beszélve arról, hogy mások választását mennyire vagyunk képesek elfogadni.

Lassan azért el kellene dönteni

Minderre a mesterséges intelligencia kapcsán is nagyon fontos dolog lesz kielégítő válaszokat találni, aminek egyik nyilvánvaló vonatkozása az önvezető autók elkerülhetetlennek látszó megjelenése. Az előrejelzések szerint már két év múlva is nagyjából 10 millió darab, különböző autonómiaszintű jármű szaladgál majd az utakon világszerte, így nem csoda, hogy a villamosdilemma kezelésére alkalmas döntéstámogató vagy döntéshozó rendszerek kialakítását is egyre égetőbb problémának tartják. Az első lépés természetesen ebben is az egységes saját (emberi) álláspont kialakítása lenne.

A MIT kutatói egy nagyszabású felmérésben, 10 nyelven 40 millió kérdéssel sanyargatták 233 ország és régió összesen több mint 2 millió polgárát, amelyek minimum állatok, de jellemzően emberek életéről szóló döntésekről szóltak. A Moral Machine című online kvíz legtöbb eredménye nem okozott nagy meglepetést: a válaszadók általában a lehető legtöbb életet mentenék meg, inkább a fiatalokét mint az idősekét, és inkább az emberekét mint az állatokét. A felmérés ugyanakkor kihozta azokat a kulturális különbségeket is, amelyek miatt nem lesz könnyű a globális standardok kidolgozása.

A kevésbé fejlett országokban például nem annyira egyértelmű, hogy a szabályosan és a szabálytalanul közlekedő gyalogosok közül az utóbbi élete az értékesebb; eközben Kínában, Japánban vagy Szaúd-Arábiában az sem alapvetés, hogy kényszerhelyzetben a fiatalokat kellene megkímélni az idősek kárára. A tanulmány egyik szerzője a The Verge interjújában ki is fejti, hogy a különféle változók mögé tekintve tisztán morális jellegű kérdésekről van szó, a kutatás eredményeinek közzétételével pedig elsősorban a párbeszédet próbálják megindítani ebben a témában.

Gyakorlatias megközelítések is vannak

A dolognak természetesen technikai vonatkozásai is vannak, tekintve, hogy a legszofisztikáltabb MI-rendszerek sem igazán képesek az emberre jellemző módon megindokolni döntéseiket. A tavaly óta az Intel tulajdonában lévő izraeli Mobileye megoldási javaslata éppen ezért a hibalehetőségek "átruházására", vagyis a helyes közúti magatartás kodifikálására épül. A múlt ősszel bemutatott elképzelés abból indul ki, hogy a legjobb emberi sofőrök sem mindig kerülhetik el a baleseteket, ha azok nem az ő hibájukból következnek be, és ez nincs másként a gépi intelligencia által irányított járművekkel sem.

Ahelyett tehát, hogy előre kódolva meghatároznánk, a nagymamát vagy egy óvodáscsoportot kapjon telibe az önvezető autó, inkább kötelezzük arra a járművet, hogy mindig, minden körülmények között tartsa meg a követési távolságot, vagy mindig adja meg az elsőbbséget. Ha később két ilyen autó találkozik az úton, akkor a szerencsétlenségek valószínűsége is minimálisra csökken. A szabálykövető, felelősen és óvatosan vezető sofőrök ugyanis nem nagyon okoznak baleseteket, különösen, ha olyan 360 fokos látómezejük és villámreflexeik vannak, mint amilyen az önvezető járműveknek is lesz. (Persze az erkölcsfilozófia egyik jellemző tulajdonsága, hogy minden kérdést a végtelenségig tud görbíteni: vajon a Mobileye által elképzelt rendszer akkor sem sértené meg a közlekedési szabályokat, ha éppen ezzel menthetne életet?)

Ez a cikk független szerkesztőségi tartalom, mely a T-Systems Magyarország támogatásával készült. Részletek »

Megint más, lényegesen földhözragadtabb megközelítést alkalmaz a Google-Waymo. A VentureBeat októberi összeállításából kiderül, hogy a vállalat munkatársainak korábbi megnyilatkozásai alapján a gyártó autonóm rendszerei két lehetséges objektum közül mindig a kisebb méretűvel próbálnak ütközni (már ha valamelyikkel mindenképpen muszáj), egyébként pedig a közlekedés védtelenebb szereplőit (gyalogosokat, biciklistákat) próbálják elkerülni az elkerülhetetlen balesetek során. Ahogy tegnap beszámoltunk róla, a DARPA eközben a józan ész (common sense) MI-adaptációján dolgozik, aminek az emberi helyzetértékelő képesség gépesítésében lehetne hasznát venni.

Az autógyátók is sokat kockáztatnak

Akárhogy is, a szabályozók hamarosan ki fogják kényszeríteni egy működőképes rendszer kidolgozását. Németországban már tavaly megfogalmaztak egy ezzel összefüggő ajánlást, amelynek alapja, hogy az emberi életek értéke között semmilyen módon nem szabad különbséget tenni. Az Európai Unióban szintén saját szabályokon dolgoznak, és már az Egyesült Államokban is közzétették a jövőbeni szabályozás alapjául szolgáló irányelveket. A legnagyobb feladat mégis az autógyártókra hárul, akiknek a közbizalom megtartása mindennél fontosabb a nagy kockázatokat rejtő új üzletben.

A kisebb-nagyobb (sőt esetenként halálos) balesetek híre ugyanis nagy mértékben aláássa a technológiával kapcsolatos pozitív várakozásokat: egy nyári felmérés szerint például a fogyasztók 60 százaléka nem szívesen utazna teljesen autonóm járművekben, általánosságban pedig 70 százalékuk tartja aggályosnak, hogy ilyen MI-vezérelt eszközökkel közösen vegyen részt a forgalomban. Utóbbira, vagyis az emberek és gépek együttműködését javító megoldásokra is vannak már javaslatok, de a lényeg mindenképpen az iparági konszenzus megteremtése lenne ezen a területen.

Szeptemberben mi is beszámoltunk róla, hogy a Volkswagen konszern egy ilyen szövetség felállításán dolgozik, amely az önvezető autókkal kapcsolatos technológiák nemzetközi szabványait lenne hivatott lefektetni, kezdve a szoftverek vagy a szenzorok standardizálásával. Ennek legfőbb célja a költségek és a kockázatok megosztása, és szélsőséges esetben, mondjuk egy baleset nyomán az érintett autóipari cégeknek is jobb esélyeket biztosít a bíróságon, ha bizonyítani tudják, hogy megfelelnek az aktuális nemzetközi szabványoknak.