Az online kereskedelemben egyre nagyobb teret nyernek a mesterséges intelligenciával generált termékek, amelyeket ugyancsak az MI alkalmazásával látnak el hamis felhasználói véleményekkel, sőt adott esetben még a nem létező szerzők életrajzával is, hogy a megfelelően alacsony árakkal kombinálva minél simábban menjenek az átverések. Nemrég az Amazont elárasztó kamu útikönyvekről írtunk, amelyek esetében a The New York Times vizsgálódása szerint már éberségre és az értékelések gondos ellenőrzésére van szükség, ha valaki nem akar ilyesmiért fizetni. Újabban pedig megjelentek az MI által generált gombakereső kézikönyvek is, amelyek már nem csak anyagi károkat okozhatnak a vásárlóknak.

Szakértők arra figyelmeztetnek, hogy a gépi algoritmusok által előállított szemét ezen a szinten fokozott aggodalomra ad okot, és szó szerint élet-halál kérdésnek nevezik, hogy mindenki csak hiteles szerzők műveit használja. A generatív mesterséges intelligencia ugyanis képtelen értelmezni az általa feldolgozott információt és felmérni annak megbízhatóságát, ha éppen nem saját maga költ valamit, amihez aztán tényként ragaszkodik. A gombák esetében könnyű belátni, milyen könnyen félrevezethetnek valakit a rossz leírások, és az is jól látszik, hogy milyen káros lehet, amikor nem jelölik meg (vagy ebben az esetben szándékosan elrejtik) az MI-modellek segítségével létrehozott anyagok valódi forrását.

Ez így tényleg nem fog működni

Akármilyen szűk körű hobbi a gombászkodás, az ilyen csalások lehetséges következményei elég súlyosnak tűnnek, arról pedig fogalmunk sem lehet, hogy milyen más témákban fertőzi a mesterséges intelligenciával előállított szemét az Amazon áruházait vagy más internetes forrásokat. Ugyanilyen alapon bármilyen egészségügyi vagy pénzügyi kérdésben teríthetik a hamis információt és a rossz tanácsokat, így az online könyvvásárlás során is indokolt az elővigyázatosság. Nem beszélve az olyan szolgáltatásokról, amelyek ugyan nem titkolt módon valamilyen MI-technológiára épülnek, de annak nyilvánvaló hiányosságai miatt a legváratlanabb módon képesek előjönni a veszélyes butaságokkal.

Augusztus elején például mi is beszámoltunk róla, ahogy a netes trollok könnyedén potenciális gyilkost faragtak egy új-zélandi élelmiszerlánc recepteket gyártó algoritmusáról.  Ennek célja elvileg az lett volna, hogy valami ehetőt varázsoljon a hűtőben és kamrában kallódó maradékokból. Miután azonban teljesen szabadon lehetett megadni, hogy miből készüljenek az ételek és italok, az emberek a legvadabb összetevőket kezdték adagolni, a robot pedig készségesen gyártotta nekik a mérgező ötleteket. Az MI azóta esetenként már "homályos összetevőkre" hivatkozva megtagadja a receptalkotást, ami arra elég, hogy halálos mérgezés helyett sima gyomorrontást okozzon a kritika nélküli felhasználóknak.