A BlenderBot 3 sértő vagy valótlan dolgokat is közölhet, sőt időnként arról is elfeledkezhet, hogy ő maga egy chatbot. A Meta azonban nem ennek ellenére, hanem éppen ezért kezdi most meg a publikus tesztelését.

A Meta olyan beépített biztonsági eljárásokkal tette nyilvánossá a BlenderBot 3 chatbotot, amelyek állítása szerint akár 90 százalékkal csökkentik a program offenzív válaszait, de az ettől még képes illetlenül vagy durván fogalmazni, és következetesen valótlan vagy ellentmondásos dolgokat állítani. A robot demója egyelőre az egyesült államokbeli felhasználók számára érjhető el, de a vállalat tervei szerint hamarosan más országokban is megjelenik. A BlenderBot 3 képes internetes keresések alapján gyakorlatilag bármilyen témáról beszélgetni, és úgy tervezték, hogy megtanulja, hogyan fejlesztheti képességeit és biztonságos működését természetes beszélgetések és valódi emberek visszajelzései alapján.

A társaság kutatásainak kulcsfontosságú része a chatbot nyilvános tesztelésével kapcsolatban, hogy segítsen továbbfejleszteni az említett biztonsági eljárásokat. A Meta közleménye szerint olyan új technikákat alkalmaznak, amelyek a segítőkész felhasználók és a trollok közötti automatikus különbségtételre vonatkozó korábbi vizsgálatokra épülnek. Ezek elvileg támogatják a segítőkész felhasználóktól való tanulást, miközben ezt elkerülik az olyan emberek esetében, amikor valaki a modellt haszontalan vagy kártékony válaszokra próbálja rávenni.

Rögös út vezet a tökéletességhez

Az ilyen kockázatok ma már klasszikusnak számító, 2016-os esete a Microsoft Tay csetbotjának nyilvánossá tétele volt, amikor a program eredményeinek egy 19 éves lányt kellett volna idézniük, de a Twitter-felhasználók visszacsatolásait elemezve órák alatt nőgyűlölő Hitler-szimpatizáns lett belőle. A Meta most arra figyelmeztet, hogy hasonlóra a BlenderBot 3 is képes lehet, vagyis a fejhlesztőknek továbbra is ez a legfőbb megoldatlan problémája. A chatbot oldalán úgy fogalmaznak, hogy a robot az elvégzett munka ellenére is tud olyasmit mondani, amire nem büszkék, de az is előfordulhat, hogy rosszul idéz fel korábbi részleteket, vagy egyenesen megfeledkezik róla, hogy ő maga tulajdonképpen egy chatbot.

A fejlesztők szerint azonban ez még nyomósabb okot ad rá, hogy bevonják a kutatók tágabb közösségét, máskülönben sokkal korlátozottabb lehetőségeik lennének az "észlelési és hatáscsökkentő stratégiák kidolgozására". A Meta ezért arra biztatja a felhasználókat, hogy jelentsék, ha a chatbot bármilyen offenzív megnyiatkozást tesz, vagy ha úgynevezett "hallucinációkat" tapasztalnak – ez utóbbi a Meta leírása alapján azt jelenti, amikor a robot magabiztosan állít valamilyen egyértelműen valótlan dolgot. Ez utóbbi szerintük jellemző a BlenderBot 3-at működtető modellekre, bár azok összesen 175 milliárd paraméterre épülnek, képessé teszik a programot a netes keresésekkel támogatott, nyílt tartományú beszélgetésre, sőt hosszú távú memóriát is biztosítanak neki.

Közösség & HR

A végeken tesztelték a világ nélküli orosz világhálót

Az orosz hírközlési hatóság kezdeményezte próba során Dagesztán, Csecsenföld és Ingusföld egyes területein vált elérhetetlenné a külvilág. Beszámolók szerint a retesz a legtöbb VPN-megoldáson is kifogott.
 
A software defined network már évek óta velünk él. Csak idő kérdése volt a koncepciót kiterjesztése a WAN-okra.

a melléklet támogatója a Yettel

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.