A McAfee kutatói kísérletekkel bizonyították, hogy elég rábiggyeszteni egy rövid csíkot a korlátozó táblákra, hogy a Tesla robotpilótája durván túllépje a megengedett sebességet.

Már majdnem pontosan két évvel ezelőtt is beszámoltunk olyan kutatásról, amely az önvezető autók jelfelismerő rendszereit célzó, meglehetősen egyszerű támadásokkal foglalkozott. Abban a New York állambeli Cornell Egyetem kutatói toxikus jeleknek nevezték azokat az autonóm járművek megtévesztésére alkalmas jelzéseket, amelyek az emberek szemében változatlannak látszanak, de néhány apró módosítással kiválóan alkalmasak az MI-rendszerek megtévesztésére. A kísérletek során akkor digitális és fizikai környezetekben is 90 százalékos hatékonysággal verték át a mesterséges intelligenciát, még olyankor is, amikor nem voltak vele tisztában, hogy éppen milyen algoritmust támadnak.

A szakemberek a gépi tanuló algoritmusok célzott felkészítését javasolták egy nagy csomó minta legyártásával és feldolgozásával. Ezzel saját kutatásaikban mindössze néhány százalékosra szorították le a toxikus jelek hatékonyságát a támadó szándékú táblák, a logó alapú támadások vagy az olyan egyedi jelzések esetében, amelyek üres felületekre maszkolnak megtévesztő ábrákat, vagy az emberi sofőr és a járműre épített kamera betekintési szögének különbözőségével operálnak. Azt már akkor elmondták, hogy a problémát így sem lehet megszüntetni, de a hatásai mérsékelhetők; a jelek szerint azonban az elmúlt időszakban nem mindenki vette komolyan a figyelmeztetést.

A gépek tévedni is következetesebben szoktak

A McAfee Labs kutatói szerdán tették közzé azt a kutatást, amelyben ilyen-olyan módszerekkel torzítgatták vagy koszolták a táblákat, és közben azt vizsgálták, hogy a Tesla rendszere milyen eséllyel érti félre a jelzéseket. Ezek közül talán a leglátványosabb az az egyszerű hekkelés, amelyben egy darabka szigetelőszalagot ragasztanak a 35 mérföld/órás (körülbelül 56 kilométer/órás) jelzésre, hogy a kipróbált Model X és Model S típusok rendszere ezt érzékelve 85 mérföld/órára (136 kilométer/órára) próbálja meg felgyorsítani a járműveket. Mindehhez elég volt a ragasztócsíkkal meghosszabbítani a hármas középső vonalát:
 

forrás: mcafee.com


Az anyagból kiderül, hogy a fenti jelenség a MobilEye (Intel) EyeQ3 chipjeivel dolgozó kamerarendszereket érinti, amelyek a Tesla régebbi járműveiben találhatók, a gyártó terminológiájában a Hardware Pack 1 részeként, és szükség van hozzá a Traffic Aware Cruise Control (TACC) vezetéstámogató megoldásra is, ami automatikusan szabályozza a járművek sebességét a forgalmi viszonyoknak (így a jelzőtábláknak) megfelelően. A McAfee Labs szerint a teszteket számtalanszor megismételve arra a következtetésre jutottak, hogy a mozgásban lévő autók nem 100 százalékosan tévesztenek, utóbbi esetben viszont 100 százalék biztonsággal váltanak a helytelenül becélzott sebességhatárra.

Első lépésben tisztába kell jönni a problémával

A kutatók megállapítják, hogy a sofőr az esetek többségében minden bizonnyal érzékeli a problémát, és beavatkozik a fékre taposva vagy a TACC kikapcsolásával (az alábbi videón a 35 mérföldes korlátozásnál ez 50 mérföld per órás sebességnél sikerül neki), és ezzel jó eséllyel megelőzik a baleseteket. Azonban így is olyan problémákról van szó, amelyekkel a gyártóknak és a felhasználóknak is érdemes lenne tisztában lenniük, hogy lehetővé váljon a lényegesen biztonságosabb járművek fejlesztése. A MobilEye EyeQ3-as kamerarendszerei egyébként már 40 millió autóban működnek világszerte, és azzal együtt, hogy most csak a Teslákat próbálgatták, ilyenek dolgoznak a Cadillac, a Nissan, az Audi vagy a Volvo gyártmányaiban is.
 


A magas autonómiaszintű járművek betrükközése a mesterséges intelligencia fejlesztésében jelentkező kihívások egyik leglátványosabb területe, amire az utóbbi időben több példát is találhattunk. A Cornell Egyetem fent idézett kutatásában mások mellet egy KFC-logót buheráltak meg alig észrevehető módon, hogy a járműveket irányító rendszer stoptáblának nézze, de más tesztekkel is szemléltették, hogy mekkora gond lehet, ha az autó a legváratlanabb helyzetekben 130-ról 30 kilométer per órára fékezi magát egy kamu korlátozó tábla miatt. A Tencent kutatói egy másik alkalommal azt mutatták be, hogy az aszfaltra ragasztott matricákkal a sávtartásért felelős alrendszerek zavarhatók össze nagyon komolyan. A lényeg minden esetben az, hogy az intelligensnek reklámozott technológiák egyáltalán nem intelligensek, amennyiben egy egész kicsit is ki kellene lépniük a fejlett célgépek szerepéből.

Ugyanilyen zavarba ejtő, hogy a The Register kérdésére a McAfee szakemberei elmondták: a vizsgálatok eredményéről már majdnem fél éve, tavaly szeptemberben tájékoztatták a Tesla és a MobileEye illetékeseit. Formálisan mindkét helyen érdeklődést mutattak a felfedezések iránt, de sem akkor, sem azóta nem jelezték, hogy bármilyen tervük lenne a probléma kezelésére a már forgalomban lévő járműveken. A lap természetesen a Tesla álláspontjára is kíváncsi volt ezzel kapcsolatban, de a társaság a cikk megjelenéséig nem válaszolt a kérdéskre.

Biztonság

Linus Torvalds eligazította a generatív mesterséges intelligenciát

Már nagyon hiányzott a megfelelő iránymutatás a linuxos közösségnek.
 
Hirdetés

Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében

"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.

Ezt már akkor sokan állították, amikor a Watson vagy a DeepMind még legfeljebb érdekes játék volt, mert jó volt kvízben, sakkban vagy góban.

a melléklet támogatója a Clico Hungary

Hirdetés

Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni

A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.