A The Guardian oldalán közölt véleménycikk valós kockázatnak nevezi, hogy a mesterséges intelligenciával működő chatbotok stílusa a való életben is megjelenik az emberek beszédében az ismétlődő mondatszerkezetektől egészen a konkrét fordulatokig és a robotokra jellemző kifejezésmódig, vagyis a felhasználók könnyen átvehetik az MI-modellek nyelvi mintáit, aminek messzemenő következményei lehetnek. A szerzők úgy látják, hogy a nagy nyelvi modellek (LLM-ek) hiába dolgoznak fel hatalmas mennyiségű írott szöveget, közösségimédia-bejegyzést, filmet vagy tévéműsort, ha a "nem szkriptelt beszélgetések" vakfoltot jelentenek a betanításukban, miközben az élő beszéd az emberi kultúra létfontosságú alkotóeleme.

Az internetet elárasztó, mesterséges intelligenciával generált tartalom így nemcsak azt befolyásolhatja, ahogy az emberek egymással kommunikálnak, hanem azt is, ahogy saját magukról és a körülöttük történő dolgokról gondolkodnak. Ezen keresztül pedig a világról alkotott képük is olyan módon torzulhat el, amit ma még elképzelni is nehéz lenne. Annak azonban már vannak valós jelei, hogy a következmények nem maradnak el: a Futurism például olyan kutatásokat idéz, amelyek szerint az MI-vel létrehozott nyelv rövidebb mondatokat és szűkebb szókincset használ az emberi beszédhez viszonyítva, és nincsenek meg benne az érzelmek közvetítésében fontos szerepet játszó kitérők, megszakítások vagy logikai ugrások sem.

Pont a lényeget nem sikerül megragadniuk

További fontos szempont, hogy az MI-modelleket gyakran olyan kimeneteken képzik ki, amelyeket eleve mesterséges intelligencia generált, ez a visszacsatolás pedig még tovább erősíti a gépi eredetű mintákat. A nyelvi jegyeken túl egyébként az LLM-ek hajlamosak hímes tojásként kezelni a felhasználókat, megszilárdítva a hamis vagy veszélyes hiedelmeiket is, ami értelemszerűen elfogultsághoz és fokozódó pszichózishoz vezet. Egy másik cikkben az oktatók arra figyelmeztetnek, hogy a diákok elveszítik az önálló gondolkodás képességét, ha egyből az MI-hez fordulnak, amikor nem tudnak válaszolni valamilyen kérdésre, az egyforma gépi kimenetekre hagyatkozva pedig ők maguk is elkezdenek egyformán beszélni.

A Guardian szerzői meg sem próbálnak úgy tenni, mintha látnák a megoldást a fenti problémákra, de reménykednek benne, hogy a mesterséges intelligenciát létrehozó kreativitás lehetővé teszi majd a modellek betanítását az informális emberi beszéd imitálására is. Létezik már olyan vállalkozás, amelyik fizet a felhasználóknak, hogy MI-képzési célokra rögzíthesse a telefonhívásaikat, de ez nyilván nem lesz járható út, nem beszélve az MI-iparágat amúgy is meghatározó adatvédelmi aggályokról. Az viszont biztos, hogy az MI fejlesztéséből jelenleg ki van zárva az emberiség "nyelvi termelésének" legnagyobb és legfontosabb része, az emberi viselkedést pedig nem lehet tükrözni a leghitelesebb megnyilvánulások megértése nélkül.

Részletek a Guardian oldalán »