Az EP a mesterséges intelligenciáról szóló jogszabályt fogadott el

Az új szabályok tiltják az olyan MI-alkalmazásokat, amelyek sérthetik az állampolgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan töltenek le. Tiltják továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszerek alkalmazását, az állampolgárok mesterséges intelligencia révén történő, társadalmi hovatartozásukra, vagy előélükre alapozott kockázati besorolását, valamint az olyan rendszerek használatát, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.

A távoli biometrikus azonosító (RBI) rendszereket – néhány különleges kivételtől eltekintve – a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos – a bűnelkövetés tényének megállapítását követő – használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.

Más, magas kockázatú mesterségesintelligencia-rendszerekre is egyértelmű kötelezettségek vonatkoznak. Ezek közé tartoznak például a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások a bűnüldözés, a migráció és a határigazgatás, az igazságszolgáltatás és a demokratikus folyamatok egyes rendszerei. Az ilyen rendszerek használatánál, értékelni és csökkenteni kell a kockázatokat, naplót kell vezetni a használatról, és biztosítani kell az emberi felügyeletet. Az állampolgároknak joguk lesz panaszt tenni a mesterséges intelligencia rendszerekkel kapcsolatban, és magyarázatot kaphatnak a magas kockázatú mesterséges intelligencia rendszereken alapuló, a jogaikat érintő döntésekről.

Az általános célú mesterségesintelligencia-rendszereknek és az általuk használt MI-modelleknek átláthatósági követelményeknek kell megfelelniük, többek között az uniós szerzői jognak és a képzéshez használt tartalmak részletes összefoglalóinak közzé kell tenni. A nagyobb teljesítményű, rendszerkockázatot jelentő MI-modellekre további követelmények vonatkoznak, többek között a modellértékelések elvégzése, a rendszerkockázatok értékelése és mérséklése, valamint az incidensekről való jelentéstétel.

Az új jogszabály szerint, az uniós tagállamokban szabályozói tesztkörnyezetet kell létrehozni és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kis-és középvállalkozásokat, és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki.

A jogszabály végleges szövegét még a tagállamokat tömörítő tanácsnak is hivatalosan jóvá kell hagynia, majd közzéteszik az EU hivatalos közlönyében. A rendelet a közzététel utáni huszadik napon lép hatályba.