Jobban kellene védeni az autonóm autók szoftverét

Az önvezető autók kapcsán felmerülő etikai és közlekedésbiztonsági problémák amennyire riasztóak, épp annyira izgalmasak is, akár filozófusként vagy – mint esetünkben – informatikai szakemberként közelítünk a problémához. Első körben ez szinte pár perc után nyilvánvalóvá vált Kiss Gábor, az SJE Gazdaságtudományi és Informatikai Karának docense által tartott „Megelőzhető-e az autonóm autók külső manipulációja?” című előadásán. Miután A tudomány és technika hetén tartott prezentáció letudta az önvezetés gyakorlatilag lassan 100 éve tartó fejlődési ívének ismertetését, valamint bemutatta annak hat szintjét, érdekfeszítő problémakatalógust vázolt fel az autonóm autók döntéshozatalával kapcsolatosan.

A felismerés

A kutató mondandójából kiderült, az önvezető gépjármű fizikai felszereltségén túl valójában az a kulcskérdés, hogy az képes-e felismerni az adott közlekedési helyzeteket. Sokan emlékezhetnek arra a 2018-as tragikus esetre, amikor az Uber autonóm autója Arizonában halálra gázolt egy kerékpárt toló nőt. Az áldozatot a kocsi szoftvere nem gyalogosként, hanem ismeretlen objektumként azonosította. Mielőtt azonban a laikus hallgató teljesen elbizonytalanodott volna, Kiss Gábor egy beszédes globális adattal ismét helyrerakta az önmagukat irányító autók létjogosultságát. „Évente több mint 1 millió ember hal meg az utakon. A balesetek oka 90%-ban emberi tényezőre vezethető vissza” – mutatott rá a lényegre, majd hozzátette, az önvezető gépkocsik képesek még az üzemanyag-fogyasztás és a környezetszennyezés csökkentésére, vezetésképtelen emberek orvoshoz való szállítására, valamint – ami sokak tetszését elnyerheti – alkoholfogyasztás esetén is szavatolni tudják a biztonságos és törvényes utazást. Ezután rátért a probléma etikai dimenzióira. „Balról beszalad egy gyermek a labdáért, jobbról egy idős bácsi akar átkelni az úttesten. Én az önvezető autóval 68 mérföld per órával hajtok, szemből pedig jön egy kamion” – vázolt egy elméleti közlekedési helyzetet, ami pillanatok alatt valósággá válhat, az autót irányító mesterséges intelligenciának pedig valahogyan döntenie kell.

A manipuláció

„Nagyon fontos, hogy a mesterséges intelligencia adatbázisa – ami alapján tanul – milyen adatokat tartalmaz” – tért vissza Kiss Gábor ismét a lényeghez immáron olyan probléma kapcsán, amelyre megoldást tud kínálni. Itt az önvezető autók döntéshozatalának külső befolyásolásáról, becsapásáról van szó, amelynek hatására azok adott esetben ellophatók vagy kirabolhatók, netán az utasaik sodorhatók veszélybe. Ha ugyanis a szoftver nem kellőképpen „okos”, úgy nem fogja felismerni azt, ha valaki az útviszonyokat manipulálva próbál kikényszeríteni bizonyos helyzeteket. Meglepő volt hallani, mennyi eshetőségről beszélhetünk valójában. Ilyen például a hamis sárga színű útfelújítási sávok használata, vagy az, ha egy műszer segítségével az önvezető autó előtt haladva sávokat vetítenek eléje az úttestre, s ezzel mondjuk eltérítik eredeti úticéljától. Sőt, egy háromdimenziós nyomtatott kátyú is összezavarhatja az autó rendszerét.

Az előadó ilyen párhuzamot ugyan nem vetett fel, ám nyilvánvaló, hogy például veszélyeztetett személyek – politikusok, vállalkozók, hírességek stb. – biztonsága szempontjából ezek a lehetőségek óriási kérdőjeleket vetnek fel. Hogy a kutató pontosan milyen megoldást talált, arról egyelőre csak szűkszavúan beszélt, ugyanis folyamatban van annak szabadalmaztatása.

„A külső manipulációt felismerő modult kell beépíteni úgy, hogy az a szenzorokból beérkező adatok és a döntéshozatal között helyezkedjen el. Ennek érdekes feladat lesz a felprogramozása arra vonatkozóan, hogy milyen helyzeteket ismerjen fel külső manipulációként, s ez milyen hatással legyen a döntéshozatalára” – zárta az előadást Kiss Gábor.