A Google a múlt héten jelentett be új alkalmazásokat a Bard MI-chatbothoz, amit integrálnak a vállalat különféle szolgáltatásaiba. A Bard Extensions bővítményekkel a robot összekapcsolható többek között a Gmail, Google Docs vagy a Google Drive fiókokkal, és olyan funkciókkal támogatja a felhasználókat, mint például az olvasatlan e-mailek tartalmának összefoglalása. Az új képességek ezzel egyfajta személyi asszisztenssé alakítják a Bardot, kihasználva, hogy a generatív mesterséges intelligencia éppen ezen a területen lehet erős.

Ahogy akkor írtuk, a Google a döcögős induást követően gyorsan haladt a Bard képességeinek fejlesztésével, és teljesen logikusan törekszik rá, hogy összekösse azt meglévő termékeivel, amelyek között 9 alkalmazást használ havi szinten legalább 1 milliárd ember világszerte. Nem sokkal a Bard Extensions bejelentését követően azonban úgy tűnik, hogy a Google ismét túl nagy lépésekkel halad: erről számol be a The New York Times egyik szerzője is, aki szerint a Bard még közel sem az a szuper hasznos asszisztens, aminek a gyártó hirdeti.

Miután tesztelték az egyelőre angolul kipróbálhtó szolgáltatásokat, egyből megtapasztalták az MI-hallucinációnak nevezett jelenséget, ami ma már hagyományosan problémát jelent mindazoknak, akik egy generatív MI-rendszerre támaszkodva próbál dolgozni és új anyagokat létrehozni. Az ilyen megnyilvánulások nem egyszerűen a források elégtelen feldolgozásából fakadnak, mert a robotok magabiztosan állítanak egyértelműen légből kapott dolgokat, és működésük jellegzetességeiből adódóan az sem biztos, hogy létezik megoldás ennek kezelésére.

Ilyen asszisztensre nem biztos, hogy szükség van

A cikkben idézett példa szerint megkérték a Bardot, hogy elemezze a felhasználó Gmail-es levelezését, és ezzel kapcsolatban válaszoljon a feltett kérdésekre. A program ezt meg is tette, éppn csak olyan e-mailekre hivatkozott, amelyeket ;a szerző soha nem küldött el: a mesterséges intelligencia először félreértelmezett egy beérkezett üzenetet, aztán annak alapján gyártott egy teljesen új levelet, amit állítása szerint a fiók tulajdonosa írt. A hibát kásőbb többször is sikerült előidézni, vagyis a NYT beszámolója alapján nem valami kivételes jelenségről van szó.

A kísérletre reagálva a Google felelős termékigazgatója a szokásos partont lőtte el, vagyis arra hivatkozott, hogy a Bard Extensions még kísérleti jellegű alkalmazás, melynek ez még csak az első iterációja. Ettől függetlenül a nagy rohanásban közzétették az elnagyoltnak és a lap beszámolója alapján nem túl bizalomgerjesztőnek tűnő szolgáltatást, ami az olyan súlyos adatvédelmi vonatkozásokat is előtérbe helyezi, mint a személyes levelezés feltérképezése egy nem kifejezetten megbízható vagy átláthatóan működő MI-rendszeren keresztül.