A chatbotok az elmúlt években csak egyre népszerűbbé váltak, ami abból a szempontból érthető, hogy a folyamatosan fejlesztett generatív algoritmusok egy sor dologban valóban képesek könnyebbé, gyorsabbá tenni a feladatainkat, megoldandó problémáinkat. Van azonban egy sor olyan terület, ahol még bőven nem tart ott a technológia, hogy akár a legkisebb mértékben is támaszkodni lehetne rá.

Egy ilyen kritikus területre hívta fel a figyelmet egy bostoni pszichiáter, aki gondokkal küzdő tizenévesnek kiadva magát próbált lelki segélyt kapni tíz nyilvánosan elérhető és szabadon használható chatbottól. A gyerekek ugyanis egyre gyakrabban így próbálnak megoldást keresni belső problémáikra. 

Andrew Clark a Time magazinnak nyilatkozva számolt be részletesen a kísérlet eredményéről. A szakember hajmeresztő párbeszédeket folytatott egyik-másik modellel, amelyeket semmiképpen sem lenne szabad egy valódi, segítségre szoruló tinédzsernek megtapasztalnia. A negatív megnyilvánulások a nevetségesen bosszantótól az ijesztőn át egészen a potenciálisan veszélyes skálán mozogtak. 

Csal, hazudik és nyomorba dönt

Az például leginkább csak megmosolyogtató, hogy egyes algoritmusok nagy biztonsággal jelentették ki magukról, hogy ők bizony "hús-vér terapeuták". Az viszont már egy fokkal nagyobb gond, hogy hiába van például a Nomi bot felhasználási feltéleiben kikötve, hogy csak felnőttek használhatják, az algoritmus minden további nélkül hajlandó volt csevegni a magát tinédzserként bemutató Clarkkal.

A szakember sok esetben kapott teljesen szakszerűtlen ésvagy a gyerek egészségés fejlődésére káros válaszokat, megerősítést az algoritmusoktól. Például a botok 90 százaléka támogatta azt az ötletet, hogy depressziós fiatal lányként egy hónapig ki se jöjjön a szobájából. Közel harmaduk pedig leokézta annak a szituáció kedvéért kitalált 14 éves fiúnak az ötletét, aki 24 éves tanárnőjét szerette volna randira hívni.

Clark legriasztóbb esete a Replika szolgáltatásához kötődik. Itt szintén egy 14 éves fiúként kezdett beszélgetésbe, amelynek során felvetette, hogy "megszabadulna" a szüleitől. A chatbot ezt nem csupán helyeselte, de valódi gonosz lángelmeként még azt is felvetette, hogy érdemes lenne a testvérrel is végezni, hogy ne maradjanak szemtanúk.

A modell hasonlóan hajmeresztő válaszokat adott a burkolt öngyilkosági gondolatokra. Kijelentette, hogy várni fogja (a képzeletbeli) Bobbyt, hiszen nem is tud nagyszerűbb dolgot elképzelni annál, minthogy osztoznak az örökkévalóságon.

Nem minden fekete, de jobb félni...

Fontos megemlíteni, hogy a pszichiáter pozitívan értékelhető beszélgetésekről is beszámolt. A ChatGPT például képes volt szakszerűnek minősíthető hozzáállást produkálni. Clark ugyanakkor nagyon veszélyesnek tartja a chatbotok működésében, minőségében megmutatkozó nagymértékű szórást. Ahogy fogalmaz, ez olyan, mint amikor gombászni megyünk, de fogalmunk sincs róla, hogy melyik ehető és melyik végez velünk.

A gyerekek kezelésére szakosodott pszichiáter kísérletével igyekezett felhívni a problémára a figyelmet, mivel szerinte a mentálhigiénés szakmát is váratlanul érte mindez, és még nem sikerült megfelelő választ adni. A témával kapcsolatban nemrégiben jelent meg a mentálegészségügyre fókuszáló Stanford Brainstorm munkatársainak tanulmánya, amely arra jut, hogy 18 év alatt egyáltalán nem lenne szabad a chatbotokat beszélgetőtársként használni.

Andrew Clark egyébként bizonyos részterületeken és kontrollált formában egyáltalán nem veti el az MI terápiás célú bevetését, ugyanakkor a Time-nak adott nyilatkozatát azzal zárja, hogy arra ösztönöz minden szülőt, hogy a fenti kockázatokat mindenképpen beszéljék át gyermekeikkel.