Tegnap a Baltimore megyei rendőrség őrizetbe vette egy helyi középiskola sportvezetőjét, mivel azzal gyanúsítják, hogy ő hozta létre és küldte szét azt a hamisított hangfelvételt, amelyen főnöke rasszista és antiszemita kirohanásokat tesz. Az iskola igazgatójának ez nyilvánvalóan nagy megkönnyebbülés, hiszen hiába bizonygatta ártatlanságát, állásából a felvétel miatt indított eljárás idejére felfüggesztették, ő és családja pedig számtalan gyalázkodó üzenetet és hívást kapott, köztük olyanokat is, amelyekben fizikai erőszakkal fenyegették.

A többek között "hálátlan fekete gyerekek" megjegyzésekkel teletűzdelt rövid beszédet még januárban küldte el egy kreált címről magának és néhány munkatársának a pikesville-i középiskolán atlétikát irányító Dazhon Darien. A deepfake, azaz a mesterség intelligencia segítségével Eric Eiswert iskolaigazgató hangjára alakított hamisított felvétel pillanatok alatt elterjedt a körzetben és több lap és szervezet is foglalkozott vele.

Sajnos a legtöbben az ártatlanság vélelmét teljesen figyelmen kívül hagyva kész tényként beszéltek arról, hogy Eiswert rasszista kijelentéseket tett. Az igazát hiábavalóan hangoztató igazgatót az ügy miatt "adminisztratív szabadságra" küldték, miközben Eiswert postafiókját elárasztották a gyűlölködő üzenetek. A mérsékelt kritikusok csak azonnali kirúgását szorgalmazták, a legszélsőségesebbek azonban családjával együtt fenyegették meg különböző erőszakos cselekményekkel.

A nyomozás ugyanakkor világossá tette, hogy az igazgató teljesen ártatlan. Két szakértő egybehangzó véleménye szerint a felvételt MI-vel manipulálták és szerkesztették, hogy az hasonlítson Eric Eiswert hangjára. Az igazgató azért vált célponttá, mert Darien ellen pénzügyi visszaélés miatt eljárást kezdeményezett. Ezt követően nem sokkal a sportvezető már olyan megoldásokra keresett rá az interneten, amelyekkel el tudja készíteni a deepfake anyagot.

Nem egyedi eset

Ahogy fejlődik a technológia, úgy válnak egyre könnyebben elérhetővé és egyre kifinomultabbá a deepfake tartalmak. Mindez az amerikai iskolákban is elharapódzott az utóbbi időben, igaz, jellemzően nem tanárok próbálják egymást lejáratni, hanem "remek tréfaként" hamis meztelen képek, videófelvételek járnak körbe az osztályokban, jellemzően lányokról.

A mostani ügy kapcsán a New York Times beszámolója egy megyei tisztviselőt idéz, aki arra figyelmeztetett, hogy az új generatív MI-eszközök gyors terjedését nem képes sem az iskolák védelmi mechanizmusa, sem a törvényi szabályozás megfelelő tempóban lekövetni.

De nem csak az osztálytermekben kell megküzdeni a mesterséges intelligencia nem kívánt sötét oldalával. Januárban a világ jelenlegi legismertebb énekesnőjének a története járta be a világsajtót, mivel Taylor Swiftre alakított pornográf felvételek kezdtek keringeni a közösségi médiában.

_{(Kép: Pikesville High School)}