Számos újfajta kockázatot rejt a mesterséges intelligencia egy tanulmány szerint

A 30 ország, köztük az Egyesült Államok és Kína által támogatott tanulmány vezető kutatója, Yoshua Bengio nyilatkozata szerint a dokumentum az MI-vel kapcsolatos meglévő kutatások „szintézise”, amelynek célja, hogy segítse a gyorsan fejlődő technológia védőkorlátjainak kidolgozásán dolgozó tisztviselőket.

A jelentés rögzíti, hogy míg néhány évvel ezelőtt a legfejlettebb MI-rendszerek alig tudtak egy összefüggő bekezdést produkálni, ma már képesek számítógépes programokat írni, valósághű képeket generálni és hosszabb beszélgetéseket folytatni. Használatuk másfelől kockázatokat is hordoz: a széles körben elterjedt élethű képhamisítások (deepfake) mellett megtévesztések, átverések és részrehajló megállapítások is köthetők ma már mesterséges intelligenciához, amely egyre fejlettebb képességekkel rendelkezik, a sokféle feladat elvégzésére is alkalmas OpenAI ChatGPT általános használta pedig bizonyíthatóan további veszélyekkel jár. A tanulmány, amely rávilágít, hogy a kockázatkezelési technikák még csak a kezdeti stádiumban vannak, három kategóriába sorolja a MI-vel kapcsolatos kockázatokat: rosszindulatú felhasználás, hibás működés és „rendszerszintű” kockázatok.

Nyilatkoztában Bengio elmondta, hogy a jelentés elkészítésében részt vett száz szakértő nem egyöntetűen értett egyet abban, hogy a gyorsan fejlődő technológia mikor fogja felülmúlni az emberi képességeket, és ez mivel jár majd.

A jelentés szerint az általános MI nagy számban alakíthatja át a munkahelyeket – kiszorítva a munkavállalókat és csökkentve a béreket –, míg egyes kutatók szerint több munkahelyet teremthet, mint amennyit megszüntet.

A jelentés felhívja a figyelmet arra, hogy az MI-rendszerek kicsúszhatnak az emberi ellenőrzés alól. Megnehezíti ugyanakkor a kockázatok kezelését egyebek között az is, hogy maguk az MI-fejlesztők is keveset tudnak arról, miként működnek valójában a modelljeik.

A tanulmányt az Egyesült Királyságban 2023 végén megrendezett, a mesterséges intelligencia biztonsági kockázatairól szóló első nemzetközi csúcstalálkozóan rendelték meg. A tavalyi, Dél-Koreában rendezett találkozón az MI-cégek ígéretet tettek a MI-biztonság fejlesztésére, míg a világ vezetői támogatták az erre szakosodott állami intézmények létrehozását.

Idén az országok és techvállalatok vezetői, valamint a civil szféra képviselői várhatóan február 10–11-én ülnek össze Párizsban, ahol francia tisztviselők szerint az országok közös nyilatkozatot fognak aláírni a mesterséges intelligencia fejlesztéséről, és megállapodnak a technológia fenntartható fejlődésére vonatkozó kötelezettségvállalásban.