A New York városa által üzemeltetett MyCity Chatbot célja, hogy iránymutatást adjon a helyi vállalkozóknak és ingatlantulajoknak a helyi szabályozással kapcsolatban, de a jelek szerint a mesterséges intelligencia nem, vagy nem teljesen érti a szóban forgó törvényeket. A tavaly októberben bejelentett fejlesztéssel a városi kormányzat úgy aknázná ki az MI lehetőségeit a gazdaság fejlesztésére, hogy automatizálja az üzletek beindítását és működtetését segítő tanácsadást, a robot azonban nem hogy rossz tanácsokat ad, de egyes esetekben törvényszegésre bátorítja az ingatlankiadókat és kisvállalkozókat.

A The Markup beszámolója szerint a Microsoft technológiájára épülő chatbot számos kérdésen elhasal, és téves, esetenként diszkriminatív állításokat fogalmaz meg az utalványok elfogadásával, a borravaló kezelésével, a fogyasztóvédelmi vagy munkajogi szabályokkal kapcsolatban. Ráadásul a lapnál végzett tesztek során kiderült, hogy a kimenetek nem is következetesek, vagyis a robot ugyanarra a problémára hogy ilyen, hol olyan válaszokat ad. Így azt sem lehet tudni, hogy hányan kapnak hibás tájékoztatást, de az teljesen nyilvánvaló, hogy nem érdemes az MI-eszközre támaszkodni az üzleti döntések során.

Fából vaskarika MI-alapon

A New York-i technológiai és innovációs hivatal szóvivője a The Markup megkeresésére megvédte a mesterséges intelligenciát: mint elmondta, a szolgáltatás kísérleti fázisban van (a fejlécben valóban ott szerénykedik a Beta megjelölés), de már így is "több ezer embernek adott pontos és naprakész válaszokat". A szóvivő nem tér ki rá, hogy mi lesz azokkal, akik mégsem ilyet kaptak, de megjegyzi, hogy a chatbot felhasználási feltételeiben tisztázzák a kockázatokat – más kérdés, hogy a felelősség lepattintása mennyiben befolyásolja a felhasználókat, hogy kritika nélkül elfogadják a "hivatalos" MI kimeneteit.

Egy kiemelt szövegdoboz tényleg arról ír a MyCity Chatbot főoldalán, hogy a program "időnként helytelen, ártalmas vagy elfogult tartalmat" állíthat elő, a pontatlanságokat pedig egy felugró űrlapon lehet bejelenteni. Ezt azonban nehéz értelmezni, hiszen a tanácsadásra érkező felhasználó nem tudja eldönteni, hogy aktuálisan mit dobott neki a gép. Az információ elvileg ellenőrizhető a mellékelt hivatkozásokon keresztül, de a válaszok gyakran ezek nélkül érkeznek, és ahogy a beszámolókban figyelmeztetnek rá: sok szerencsét a bíróságon azzal a szöveggel, hogy a kormányzati MI tanácsára szegtük meg a törvényeket.