Az egészségügyben nem működik az az elv, ami a termékfejlesztéseknél egyre inkább jellemzi a vállalatokat: a marketing megelőzi a konkrét termékek megjelenését. Ha egy gyártó cég erre az útra lép, szinte biztos a kudarc: olyan elvárásokat generálhat, aminek nem tud megfelelni – nagyon leegyszerűsítve így foglalható össze az IEEE Spectrum terjedelmes cikke. Az Institute of Electrical and Electronics Engineers anyaga az IBM Watson egészségügyi törekvéseinek eddigi eredményein keresztül világít rá a terület nehézségeire.

Az IBM tagadhatatlan érdeme, hogy ráirányította a figyelmet a mesterséges intelligencia (MI) lehetőségeire a klinikai gyógyászatban, de mint minden úttörőnek, a Watson projektnek is számos buktatóval kell szembesülnie.

Hosszú még az út…

Mikor öt éve az IBM önálló részleggé faragta a Watsont, a kutatók és mérnökök mellett jelentős számú marketinges és kereskedőt is felvettek nem kis részben azért, hogy beindítsák a nagy üzletet. A Watson Group egyik kiemelt területe az egészségügy. Ígéretekből nem volt hiány: az IBM hirdette – és valószínűleg hitte is –, hogy a kognitív számítástechnikai nagyságrendekkel tudná hatékonyabbá tenni az USA egészségügyi ellátó rendszerét. Ennek szellemében dollármilliárdokat költött cégek felvásárlásra az elmúlt években, hogy Watson egészségügyi képességeit fejlessze.

Gini Rometty vezérigazgató egy 2017-es egészségügyi konferencián már arról beszélt, hogy az MI az egészségügyben a mainstream része, és szinte mindent megváltoztat az egészségügyi ellátásban. Ebben valószínűleg egyre kevesebben kételkednek, de az út a tervezettnél hosszabb, a haladás pedig lassabb.

A kérdés az, hogy miért. Az IBM esetében sokan arra fogják a dolgot, hogy a Big Blue túltolta a marketinget, azaz sokkal többet ígért, mint amit teljesíteni tudott. Ezzel csapdába navigálta magát: az emberek ugyanis hittek az ígéreteknek. Tegyük hozzá, ígéretekkel a többi fejlesztő cég sem fukarkodott.

De mi a probléma az MI-vel?

Az MI egyelőre nem váltotta be a nagy reményeket. Pedig elméletben minden klappolt – de a gyakorlat kicsit mindig más.

A természetes nyelvi feldolgozásban elért első sikerek – például amikor a Jeopardy 2011-ben győzött egy tévés kvízjátékban –, az IBM gyorsan bejelentette, hogy orvosi diagnosztikában fogja alkalmazni Watsont, amely a rendelkezésére bocsátott, mérhetetlen mennyiségű orvosi háttéranyagok, a páciens kórtörténete, leletei és egyéb információk alapján ad majd tökéletes diagnózist a betegekről.

Aztán hamarosan kiderült, az orvosi diagnosztikában használt információk zömét (kb. 80 százalékát) kitevő strukturálatlan, ún. narratív információknál egyelőre csak laboratóriumi körülmények között, speciális adatkészleteknél működik jól a mesterséges intelligencia.

Leginkább korunk egyik népbetegségének, a ráknak a kezelésében fűztek nagy reményeket a mesterséges intelligenciához. A Watson for Oncology rendszer például a leletek értelmezésében és a személyre szabott kezelésekben segíti az orvosokat. Bár több tesztje is volt a rendszernek, egyelőre nem sikerült széles körben bevezetni. Sőt egyes kutatók egyenesen azt állítják, hogy az MI nemcsak hogy használhatatlan, de egyenesen veszélyes ajánlásokat ad bizonyos páciensek esetében.

Watson ugyan gyorsan megtanulja egy-egy betegség akár teljes szakirodalmát, a szakcikkeket mégsem úgy olvassa, mint az orvosok. A statisztikai megközelítése miatt ugyanis megérti ugyan a szakcikkek kulcsinformációit, de elsiklik olyan apró részletek fölött, melyek viszont az orvosok számára nagyon fontosak egy-egy konkrét döntésnél, és amelyek nem feltétlenül az adott szakcikk fő megállapításai.

Az sem könnyíti meg az MI dolgát, hogy a narratív információk számára sokszor túlságosan kétértelműek vagy hiányosak. Ezeket egy orvos kapásból képes értelmezni, a mesterséges intelligencia viszont a nagyon fejlett természetes nyelvi feldolgozási képessége ellenére gyakran félreértelmez.

Az eltérés pedig épp elég nagy ahhoz, hogy kockázatos legyen a Watsonra bízni döntéseket. Az IEEE Spectrum három kutatást adatait is felhozza. Egy thaiföldi kórházban 211 beteg esetében a Watson diagnózisa az betegek 83 százalékánál esett egybe az orvosokéval, egy indiai kórházban 638 beteg 73 százalékánál, míg egy dél-koreai kísérletnél 49 százalék volt az egyezés 656 betegnél. De amikor csak azt vizsgálták, hogy milyen pontossággal érti meg a betegséggel kapcsolatos dokumentumokat, akkor is nagyon felemásan teljesített: egyértelmű fogalmakat tartalmazó dokumentumoknál 90 és 96 százalékos pontossággal dolgozott, de voltak olyan – fontos, de kevésbé egzaktul megfogalmazott – információk, amikor csak 63-65 százalékos eredményt ért el.

A hibák skálája széles spektrumon mozgott. Az idősebb betegeknél például rosszabb volt a betegségfelismerési aránya, nem ajánlott bizonyos, az orvosok számára egyértelmű tünetegyütteseknél szabványos és bevált gyógyszereket, de olyan is volt, hogy olyan áttétes daganatoknál, amikor már csak a gyors műtéti beavatkozás jöhetett szóba, csak megfigyelést javasolt.

Csakhogy van itt néhány "de"

Kétségtelen, hogy az egészségügy nagyon szigorúan szabályzott terület, ahol a gyógyszer- és gyógymódajánlásoknak is kötött rendje van. Egy bizonyos gyógyszerről vagy kezelési módról csak akkor lehet állítani, hogy hatásosabbak, ha tudományosan kimutatható a kezelés és sikeres gyógyulás közötti ok-okozati viszony. Bizonyítás nélkül csak korrelációról lehet beszélni, ami viszont síkos terep (érdemes végignézni a Spurious correlations oldalt). Azaz a mesterséges intelligenciának is eszerint kellene figyelembe vennie az orvosok egyéni tapasztalatait, illetve a hivatalos ajánlásokat, amitől egyelőre távol van.

Van azonban számtalan terület, ahol egyértelműen megtérül a mesterséges intelligencia alkalmazása. Például a Watson for Genomics már ma is képes segíteni az onkológusoknak azzal, hogy nagyon gyorsan fel tudja tárni a betegek genetikai mutációit, és ki tudja értékelni, hogy milyen terápia jöhet szóba. Nem véletlen, hogy ezt a Watson-terméket az USA több mint hetven kórházában használják.

Nem lebecsülendő az sem, hogy az MI egyből biztosít még egy véleményt, amit az orvos összevethet a saját vizsgálatának eredményeivel, és ha kételye merül fel, újabb vizsgálatokat rendelhet el. És persze ott van a betegek gyógyító hatású biztonságérzet: az orvos a kor legfejlettebb technológiáját veti be a gyógyítására. És hogy ez utóbbi mennyire fontos, jól mutatja, hogy abban a dél-koreai kórházban is nagyon örültek a Watson jelenlétének, ahol a legrosszabbul teljesített a betegségek azonosításában.