Csúnyán befürödhetett az, aki chatbotra bízta annak eldöntését, hogy a koronavírus tünetei jelentkeztek-e rajta. Mint a bostoni STAT című egészségügyi szaklap írta, azok az amerikai egészségügyi intézményekben telepített mesterségesintelligencia-alapú chatbotok, amiket kifejezetten az koronavírus-fertőzések előzetes szűrésére fejlesztettek, meglehetősen keveset érnek: ugyanazokat a tüneteket ugyanis a különböző chatbotok eltérően értékelték.

Jó ötletnek tűnt, de így semmire sem jó

Amikor az USA-ban is elkezdett terjedni a koronavírus, az egészségügyi intézmények tömegesen álltak át olyan intelligens chatbotok alkalmazására, melyek a páciensek elmondásai és kérdésekre adott válaszok alapján valószínűsítették, hogy a telefonáló megbetegedett-e.

A STAT két újságírója érdekesnek találta a kezdeményezést, és egy előre összeállított tünetegyüttessel (láz, gyulladt torok, orrfolyás, köhögés stb.) elkezdték tesztelni több jónak tartott orvosi chatbot működését. Arra voltak kíváncsiak, hogy az egyes botok válaszai között van-e konzisztencia.

Az eredmény minimum aggasztó. A Betegségvizsgálati és Megelőzési Központ (CDC – Centers for Disease Control and Prevention) nevű kormányügynökség önellenőrző botja például azt javasolta a tünetegyüttesre, hogy az újságíró vonuljon önkéntes karanténba, és 24 órán belül vegye fel a kapcsolatot egy orvossal, mert legalább egy olyan tünete van, ami súlyos koronavírus-fertőzésre utal.

Ezzel szemben a webes Buoy Health orvosi szolgáltatás intelligens ellenőrző botja, ami elvileg szintén a CDC ajánlása szerint működik, úgy értékelte a tüneteket, hogy a súlyos koronavírus-fertőzés kockázata jelenleg alacsony, és azt javasolta az újságírónak, hogy kövesse figyelemmel a tüneteit, majd jelentkezzen ismét, ha változást észlel.

Az Ohio államban működő Cleveland Clinic botja, amely szintén a CDC irányelvei szerint működik, közepes kockázatúnak ítélte a tünetegyüttest, és további vizsgálatokat javasolt (online orvosi kérdőív, telefonos egyeztetés orvossal stb.).

Az Alphabet leányvállalatának, az egészségügyi területre MI-eszközöket fejlesztő Verily nevű cégnek a chatbotja, amit egyes kaliforniai megyékben használnak a fertőzöttek előszűrésére, azt mondta a hozzá forduló újságírónak, hogy nincs szükség semmiféle tesztre. És hogy a dolog még kacifántosabb legyen, hozzátette: hogy a megállapításai nem tekinthetők ajánlásnak arra vonatkozólag, hogy a pácienst kell-e tesztelni.

Az eltérés természetes – és kockázatos

Mint a STAT írja, a különbségek egyfelől érthetők: a botok más metódus alapján dolgoznak. Egyik például maximum tíz kérdést tett fel, míg a Buoy Health chatbotja, amely súlyos fertőzést "diagnosztizált", harmincnál is többet. A botok eltérő módon voltak felkészítve: egyikük például csak arról érdeklődött, hogy az illető volt-e Kínában vagy Iránban – tehát nem volt még felkészítve az újabb, európai fejleményekre –, a másik még Olaszországot is kérdezte, néhány robot viszont már egész Európát. És az sem könnyíti meg a botok dolgát, hogy nehéz megkülönböztetni a koronavírus-fertőzést a gyakrabban előforduló betegségektől.

Erre hívja fel a figyelmet a Stanford Egyetem egy tanulmánya is. A tanulmány szerint a fertőzés felismerésére fejlesztett tünetellenőrző rendszerek részben azért nem működnek megfelelően (konzisztensen), mert a koronavírus kezdetben egy sor olyan tünetet okoz, ami akár egy sima megfázás következménye is lehet.

A STAT egy 2015-ös kutatást is felidéz, ami arra jutott, hogy a betegségek tünetegyütteseinek beazonosítására megtanított intelligens rendszerek gyakran jutnak téves következtetésre. De ettől még hasznosak lehetnek, például kiválaszthatják a további vizsgálatra javasolt pacineseket.

Mint egy a Harvardon tanító járványügyi szakértő és MI-kutató, Andrew Beam nyilatkozta a lapnak, nagyon veszélyes, ha egy ilyen helyzetben a potenciálisan veszélyeztetett emberek félrevezető információkat kapnak. A bizonytalanság, netalántán pánik olyan tömegeket szabadíthat rá az egészségügyi ellátó rendszerre, amekkora terhelést az már nem tud kezelni.

Beam szerint a járványügyi kérdéseket központilag kell kezelni, mert az csak a pánikot növeli, ha az emberek ezerféle üzenetet kapnak egy kérdésről. Ugyanakkor szerinte ebben az MI-nek nagyon is van helye, csak épp integrálni kell a hagyományos járvány- és közegészségügyi technikákkal.