A világjárvány kapcsán is sokat lehetett olvasni a mesterséges intelligenciára alapuló rendszerek szerepéről, ezen belül pedig azokról a problémákól, amelyeket a gyorsan változó körülmények támasztanak az ilyen rendszerek működésében. Március közepén például egy olyan amerikai tanulmányt idéztek több helyen is, amely az új betegség kapcsán a predikciós képességek megbízhatatlanságára hívta fel a figyelmet: mivel korábbi koronavírus-járványokról nem állnak rendelkezésre adatok, az MI algoritmusok előrejelzései bizonytalanok, és könnyen a helyzet téves értékelésének alapjául szolgálhatnak.

A The Wall Street Journal már február végén arról közölt egy összeállítást, hogy koronavírus világosan megmutatja az egészségügyi MI-alkalmazások korlátait. A cikk bemutatja, hogy a mesterséges intelligenciával dolgozó egészségügyi eszközök gyártóinak nehéz dolga van, amikor új, releváns adatokkal kell ellátniuk a rendszereiket, ami a tüneteket vizsgáló chatbotok esetében például kisebb-nagyobb kisiklásokat okoz. A Covid-fertőzések előtti környezetben felhalmozott információ egyre kevésbé hasonlítható a valós folyamatokhoz, és elfogynak azok a minták, amelyekre a predikciókat fel lehetne építeni.

Az alkalmazkodóképesség is az intelligencia feltétele

Az eredményeket még kétségesebbé teszi, hogy az MI-rendszerek jellemzően nem értékelik a döntéseik során bizonytalanságokat, és arra nem is figyelmeztetik a humán operátorokat. A ZDNet ezzel kapcsolatban a héten rendezett CogX 2020 konferencia egyik előadását idézi, amelyben David Barber matematikus beszélt a klasszikusnak nevezett MI-paradigma, a felügyelt gépi tanulás ilyen irányú hiányosságairól. Ebben a megfelelő adatkészlet létrehozását és osztályozását követően betanítják a rendszereket, ezt azonban a telepítések után már nem vizsgálják felül, miközben a környezet hirtelen és jelentősen megváltozhat.

Bár a világjárvány az üzleti szereplők, a kormányzatok és az egyes emberek szintjén is éppen ilyen változásokat hozott, az érintett személyek vagy szervezetek a maguk módján alkalmazkodnak az új helyzethez. Ugyanez nem mondható el azokról az MI-rendszerekről, amelyek lényegében rögzített stratégiákat követnek, és a korábban megtanult környezeti modellek segítségével értékelik az állapotokat vagy akciókat. A változás értelemszerűen bizonytalanságot hoz ezekbe a folyamatokba, ilyenkor pedig nagyon fontos lenne, hogy az MI jelezni tudja, amikor nem kellően megalapozott a döntése.

Az előadás szerint az ideális felállás egyfajta munkatárs-kapcsolat lenne a mesterséges intelligenciával, amelyben a hangsúly az ember és a gépinterakciójára kerül, áthidalva a fent hiányosságokat. Ez a megközelítés az elmúlt években fokozatosan nyer teret, és aktív tanulásként (active learning) hivatkoznak rá: lényege, hogy nem egy hatalmas, felcímkézett adatkészletet dolgoztatnak fel az algoritmusokkal, hogy azok levonják belőle a saját (sokszor nem is kifejezetten transzparens) következtetéseiket, hanem hagyják, hogy az adatok jó részét az MI maga osztályozza, és kérdéseket tegyen fel, ha nem tud dönteni.

Jönnek a gyorsabb, rugalmasabb, barátságosabb MI-k

Más szóval, az eljárás egy kisebb mennyiségű, továbbra is a szakemberek által minősített adaton (seed) tanítja be a rendszert, hogy aztán a rendelkezésére bocsásson egy sokkal nagyobb, nem osztályozott adatkészletet, amit a program a korábban tanultak alapján értékel – az így osztályozott adatokat pedig integrálják az eredeti maghoz. Amikor az MI problémába ütközik, ezt jelezheti az operátornak, és a humán szakember válaszait ugyancsak visszatöltik a rendszerbe, általánosságban segítve a tanulási folyamatot.

A módszer azonnali előnye, hogy sokkal kevesebb (az idézett előadás alapján akár tizedannyi) osztályozott adatra van hozzá szükség, de ennél sokkal többről van szó, mivel az aktív tanuló rendszerek alkalom adtán hatékonyabbak is: az ágensek nem csak reagálnak az addig ismeretlen körülményekre, de a célszerű viselkedést is megtanulják. Ez megalapozottabb döntésekhez vezet a tartalmak moderálásától az önvezető járművek irányításáig, és a mostanihoz hasonló egészségügyi vészhelyzetben is lehetővé teszi, hogy az MI-rendszerek valós időben integrálják az új információt.

A WSJ riportjából ezzel szemben kiderül, hogy a passzív taniulásra épített rendszerek gyártói egyszerűen még nem rendelkeznek elég adattal a koronavírus-fertőzésekről, hogy azt alkalmazni tudják a meglévő eszközeiken, és márciusban is még 6-12 hónapra tették, amíg elérhetővé válik a megfelelő mennyiségű és minőségű tudományos irodalom a diagnosztikai programokban használt algoritmusok áttervezéséhez. Az emberek és a mesterséges intelligencia interakciójának következő szintre emelése viszont a hatékonyságot tekintve is előrelépést jelent majd, emellett pedig a "kollegiális" kapcsolat azokat a félelmeket is feloldhatja, amelyek nem az ember segítőjének, hanem helyettesítőjének látják az MI-t.