Nem újdonság, hogy rossz ötlet a mesterséges intelligenciával működő chatbotokra hagyatkozni a fontos vagy akár mérsékelten fontos döntésekben, mert a technológia gyakran produkál pontatlan, téves vagy valótlan információt tartalmazó kimeneteket. Nemrég újra megerősítették például, hogy az MI-robotok nem képesek megbízható elemzéseket készíteni az alapvető pénzügyi kérdésekre adott válaszaikban sem, a Chicago Sun-Times című nonprofit napilapnak pedig nemrégiben sikerült közzé tennie egy olyan, MI-vel generált (és ellenőrizetlen) nyári könyvajánlót, ami tele volt kitalált könyvekkel és rosszul hozzárendelt szerzőkkel.

Ahogy a szerkesztők utóbb elismerték, időnként ők is használnak mesterséges intelligenciát a háttérinformáció begyűjtéséhez, de ebben az esetben nem gondolták, hogy a program ennyire nyilvánvaló dologban is hibázni fog. Mint kiderült, tévedtek: a listáján szereplő tizenöt cím közül az első tíz könyv vagy egyáltalán nem létezik, vagy a címük ugyan valódi, de nem az az írójuk, akinek a Sun-Times tulajdonította őket. Ez a lap esetében persze csak egy kisebb PR-katasztrófát és bizalmi válságot okozott az olvasók részéről, de könnyű belátni, hogy a technológia ehhez hasonló működése milyen veszélyeket rejt magában más területeken.

Ilyen mások mellett a gépi tanuló rendszerek egészségügyi környezetben való alkalmazására, ahol a pontatlanságoknak egyrészt azonnali következményei lehetnek a betegellátásban, másrészt a szakkifejezésekkel dobálózó, látszólag koherens logikával megalkotott MI-hallucinációk jelentősen nehezítik a hibák szakértői közreműködés nélküli felismerését is. De ide sorolhatók az olyan túrázók is, akik a mesterséges intelligenciára hagyatkoznak a felkészülésben: ahogy a Vancouver Sun beszámolt róla, Brit Kolumbiában a mentőcsapatokat is be kellett vetni a Google térképére és a ChatGPT-re hagyatkozó kirándulók megsegítésére.

Első kézből érdemes tájékozódni

Az MI használata során nem mindig könnyű megállapítani, hogy a rendszer hazudik, hallucinál, esetleg elavult információkat idéz rossz forrásokból. Ez azt jelenti, hogy a népszerű túraútvonalakról még csak-csak tisztességes tájékoztatás várható tőle, de a releváns, valós idejű információ felértékelődik, ha olyan tájakról van szó, ahol kritikus jelentősége van mondjuk az időjárás változásának. A Futurism cikkében idézett szakértő ezzel kapcsolatban azt is elmondja, hogy a neten elérhető információ mennyisége ma már nagyon könnyen túlterhelheti a felhasználókat, akik ilyen értelemben elveszítik a kapcsolatot a valósággal.

Ahogy más esetekben, a túraútvonalak tervezésénél is igaz, hogy "jó input" nagyban javíthatja a ChatGPT válaszainak minőségét. Más szóval, a legjobb válaszokhoz a legjobb kérdéseket kell feltenni, de aki egy chatbottól kér tanácsokat a kiránduláshoz, az csak ritkán "promptingszakértő", aki tudja, hogyan csalja elő az MI-ből a jó minőségű kimeneteket. Nem véletlen, hogy a Vancouver Sunnak nyilatkozó hegyimentő is azt javasolja, hogy a mesterséges intelligencia által vezérelt chatbotok helyett olyan emberektől kérjünk tanácsokat, akinek van tapasztalatuk a szóban forgó vidékeken, esetleg ők maguk is éppen onnan jönnek.