A Google keresőjének mesterséges intelligenciával generált összefoglalói (AI-alapú áttekintés) olyan mértékben erősítik fel a félretájékoztatást, ami példátlannak nevezhető az emberiség eddigi történetében – derül ki az Oumi nevű MI-startup elemzéséből, amelyet a The New York Times megbízásából készítettek a keresési találatok felett megjelenő tartalmi kivonatokról. A cikk alapján az új termék információkezelőből lényegében kiadóvá alakította a Google-t is, és 91 százalékos pontossággal működik, ami első olvasatra meggyőzőnek tűnhet az aránylag friss technológiát illetően. Miután azonban az online keresőszolgáltatás évente 5 billió lekérdezést dolgoz fel, óránként több tízmillió és percenként több százezer pontatlan válasz megjelenéséről beszélünk.

Ez a kommentárok szerint nyugodtan nevezhető félretájékoztatási válságnak, különösen, hogy az emberek igazolt módon hajlamosak feltétel nélkül megbízni az MI kimeneteiben. A Futurism riportja ezzel kapcsolatban két kutatást is idéz: az egyik azt mutatja, hogy a felhasználóknak mindössze 8 százaléka ellenőrzi a mesterséges intelligenciával generált válaszokat, a másik pedig úgy találta, hogy tízből nyolcan akkor is elfogadják az MI-chatbotok által tálalt információt, ha az nyilvánvalóan helytelen. A jelenséget a kutatók "kognitív megadásnak" nevezik, amire ráerősít a nagy nyelvi modellek hangneme és magabiztossága a kamu tájékoztatók átadásában, illetve a Google áttekintéseinek esetében az a kényelem, amit a tartalmi összefoglalás biztosít a felhasználóknak.

Akinek nem tetszik, az ne használja?

A kutatásban az OpenAI által tervezett SimpleQA benchmarkot használták, először októberben az akkor még a Google Gemini 2-re épülő szolgáltatásban, majd februárban a Gemini 3-ra való áttérést követően. Ennek kapcsán érdemes megjegyezni, hogy a korábbi kiadás 85 százalékos pontossággal működött a jelenlegi rendszer 91 százalékával szemben, vagyis a technológia nyilvánvalóan fejlődik, a fenti nagyságrendben azonban így is rendkívüli mennyiségű hamis információról van szó. Nem túlzás tehát, hogy a Google a gyorsan kiéleződő MI-versenyben egy jóindulattal is csak félkész terméket kényszerített rá a felhasználókra, ami a kereső közműszerű működését figyelembe véve újabb jele az iparág riasztóan szabályozatlan működésének.

A Google a maga részéről hibásnak nevezte az Oumi elemzését: a vállalat szóvivője a The New York Timesnak küldött válaszában arról írt, hogy a kutatás "nem tükrözi, mit keresnek valójában az emberek" a Google oldalán. A cikkben ugyanakkor megjegyzik, hogy a Gemini 3 még a Google saját tesztjei szerint sem különösebben precíz (ezen a vállalat tájékoztatás alapján sokat javít, hogy az MI-áttekintés a Google keresőmotorjának eredményeire támaszkodik), és ami még érdekesebb, a Gemini 2 és a Gemini 3 közti különbség újabb hibákat takarhat. Javult ugyanis a válaszok pontossága, de ezzel párhuzamosan 37-ről 56 százalékosra nőtt azoknak a válaszoknak az aránya, ahol az MI által idézett webhelyek nem támasztják alá a bemutatott információt.