Miközben a fejlesztők igyekeznek kihangsúlyozni, hogy milyen lenyűgöző képességekkel, alkotási potenciállal bír a generatív mesterséges intelligencia, a másik oldalon legalább olyan gyakran felbukkan egy történet, ami arra figyelmezteti a felhasználókat, hogy egyelőre nem köszöntött be az algoritmusok aranykora.

A legújabb sztorit a The Washington Post újságírója szállította, aki két hús-vér adószakértővel "felfegyverkezve" tesztelt két olyan rendszert is, amely a személyes adóbevallások elkészítésében igyekszik támogatni az amerikai adózókat. A TurboTax és a H&R Block ugyanis egyaránt úgy döntött, hogy az idei adószezonra már egy dedikált chatbotot is integrál a rendszerébe. 

Mint kiderült, nagyon rosszul járhatnak azok, akik elhiszik, amit a gépek egy-egy kérdésre válaszolnak. Az a jobbik eset, ha csak semmitmondó frázisokat, vagy éppen az adott témához nem kapcsolódó "hasznos linkeket" generál az algoritmus. Előfordult ugyanis a tesztek során, hogy konkrétan hibás volt a gép által megálmodott válasz.

Arányaiban rettenetes sok értékelhetetlen vagy rossz választ adtak a chatbotok. A TurboTax esetében ez első körben a válaszok felére volt igaz, míg a H&R Block algoritmusa nagyjából 30 százalékos hibaaránnyal dolgozott. A TurboTax javára kell írni azonban, hogy az újságíró által elküldött problémákra reagálva módosítottak a modelljükön, ami ezt követően már "csak" minden negyedik kérdésnél tévedett, illetve volt teljesen haszontalan.

Mossák kezeiket

A cégek szokás szerint igyekeznek az apróbetűs részre mutogatni. Való igaz, mindkét esetben meg lehet találni a figyelmeztetést a felületen, miszerint a gép által adott válaszokat nem kell készpénznek venni, és a felhasználó jobban jár, ha személyesen ellenőrzi azok valóságtartalmát.

Más kérdés persze, hogy ha a gépek minden válaszát ellenőrizni kell, akkor mi értelme van a használatuknak? A The Washington Post cikkének végén az a kérdés is felmerül, hogy ha ennyire bizonytalan a generatív MI által adott kimenet, akkor azt figyelmeztetéssel mellett sem lenne szabad egy létező, éles szolgáltatásba integrálni, ami ráadásul szó szerint az emberek zsebére megy. Az algoritmusok fejlesztése pedig ilyen formában nem más, mint egy nagyszabású és kéretlen emberkísérlet.