Korlátoznák a harci robotok önállóságát

A szokásostól eltérő tartalmú közleményt jelentetett meg a Nemzetközi Vöröskereszt, amely ezúttal a harci robotok önálló tevékenységével foglalkozik, kiemelve a jövőbeni felhasználás során ajánlott kritériumokat. A szervezet szerint mindenképpen szükség lesz az emberi irányításra, a kijelölt célpontok jóváhagyására, ez ugyanis komoly problémákat előzhet meg. 

Nem véletlen, hogy most tették közzé a bejelentést, hiszen ebben a hónapban ülésezik ismét Genfben a Convention on Certain Conventional Weapons szakértőiből álló testület, amely ezúttal az önálló fegyverrendszerek alkalmazásának kérdését veszi górcső alá. Korábban a fenti egyezmény tiltotta meg például a lángszórók használatát, van tehát precedens az előírások megalkotására és azok betartatására, az önálló harci robotok azonban egy új területet nyitnak meg, ahol már az emberi vezérlés, illetve az egyes cselekedetek jóváhagyása a legfontosabb kérdés, amit a Vöröskereszt többek között humanitárius szempontból tart kiemelendőnek. 

Itt nem pusztán a tudományos fantasztikus művek és mozifilmek esetleges valóra válásáról van szó, hiszen számos egyéb fegyverrendszer esetében felmerült már a célpontok kiválasztása, illetve a megsemmisítésről való döntés ellenőrzése és jóváhagyása. Ezek skálája elég széles, kezdve a létesítményeket vagy járműveket rakétáktól aktívan védő gépágyúktól egy adott területre ledobott torpedóig, mely utána hosszú ideig várakozik a víz alatt, majd maga dönt a cselekvésről. Szintén jó példa az amerikai haditengerészet számára kifejlesztett nagy hatótávolságú hajó elleni rakéta, amely önállóan dönt a célpontok kiválasztásáról, illetve a kívánt útvonalról - a Vöröskereszt ajánlása szerint itt szükség lenne az emberi jóváhagyásra, amely baleseteket előzhet meg, illetve megtartja a háború "emberi" jellegét. 

Aggódni mindenképpen van okuk, mivel bármilyen harci cselekmény esetén ők találkoznak először az áldozatokkal, és ugyan a mai fegyver-rendszerek használata időben és térben is korlátozott, de egy esetleges bonyolultabb szituációba vagy dinamikus környezetbe kerülve megbecsülhetetlen milyen kihatásuk lenne. A fejlődési irány egyértelműen a bevetett darabszám és az autonómia növekedése felé mutat, nő a mobilitásuk, továbbá rövidül a döntési idejük az azonosítás és a támadás végrehajtása között. Mindez együtt a cselekvések megjósolhatatlanságának növekedését okozza, hiszen a nagyobb mozgásszabadság eltérő környezeteket jelent, és az azokhoz történő adaptáció a célok változását is jelentheti. Mindezt tanuló algoritmusokkal megspékelve olyan géphez juthatunk, melyről fogalmunk sincs mit tesz a következő pillanatban.

Ahhoz, hogy az autonóm fegyverrendszerek megfeleljenek a Vöröskereszt kívánalmainak szigorú korlátokat tartanak szükségesnek, beleértve ebbe az előzetes meghatározását a pontos feladatnak és a lehetséges célpontoknak, továbbá a működési területre vonatkozó és az időbeli korlátozást, a meghibásodás vagy hacker-támadások elleni védelmet és végül az ember általi deaktiválás lehetőségének biztosítását. Szintén hosszan ecsetelik a tesztelések szükségességét és a felelősségre vonhatóság kérdését; felelős pedig szerintük mindig lesz, mert emberek hozzák meg a fegyverek telepítéséről szóló döntést.

A Vöröskereszt szerint három megközelítést alkalmazhatnak válaszként az országok a meglévő jogi és etikai kérdésekre. Az első a nemzeti szabályozások erősítése, hogy azok megfeleljenek a fenti elveknek, a második ezen rendszerek pontos definiálása és a rájuk bevezetendő korlátozások, a harmadik pedig az emberi irányítás megőrzése - utóbbi kettőhöz persze nemzetközi együttműködés szükséges. A Pentagon részéről márciusban ezzel kapcsolatbanelhangzott, hogy csak és kizárólag azon esetekben mondanak le az emberi részvételről, ahol a reakcióidő túl hosszúnak bizonyulna, vagyis ez a kiber- és az elektronikus hadviselésben lenne engedélyezett. A Vöröskereszt felhívja az egyes államokat a fenti korlátok beiktatására és azok alkalmazására, ez azonban nyilván nem kényszerítő erejű döntés.