ENSZ-testület: katasztrofális veszélyt jelenthet az MI ellenőrizetlen fejlődése

Az ENSZ mesterséges intelligenciával foglalkozó független nemzetközi tudományos testülete előzetes jelentése szerint a politikai döntéshozók egyre sürgetőbb dilemma előtt állnak: szilárd garanciára van szükségük az MI hatékony szabályozására, még ha ez nehezen is tart lépést a technológia gyors fejlődésével.

„Az MI képességei meghaladják mind a tudományos megismerést, mind a kormányok alkalmazkodó képességét” – jelentette ki Yoshua Bengio, a negyven szakértőből álló testület társelnöke.

„Az MI megtévesztő magatartásának növekvő bizonyítékával a tudomány nem tudja jelenleg szavatolni, hogy ha ezek a képességek tovább nőnek, az MI nem okoz katasztrofális kárt, egyrészt saját hibájából, másrészt potenciális rosszindulatú felhasználók miatt”. A jelentés, amely gyakorlatilag az MI kockázatainak és lehetőségeinek első független globális értékelése, a tudomány naprakész értékeléseivel kíván segítséget nyújtani a döntéshozóknak, míg a kormányok a gyorsan fejlődő rendszerekkel küzdenek.

A jelentés szerint rövid időn belül előrehaladás történik az önálló cselekvésre képes MI-rendszerek irányába, de a növekedést akadályozhatja az energia és a minőségi adatok hiánya. Idővel az önmagát kijavító MI mélyebben beágyazódhat a gazdaságba és más technológiákkal konvergál, mint a kvantum-számitástechnika és a biotechnológia.

Az MI már képes szakértői szintű érvelésre a matematika és a tudomány területén, és gyorsítja a gyógyszerek és védőoltások fejlesztését. Feladatának összetettsége minden négy-hét hónap alatt megduplázódik, potenciálisan lehetővé téve, hogy olyan összetett munkákat végezzen el, amelyek emberek esetében napokig vagy hetekig tartanak – állapítja meg a jelentés. Míg ezzel jelentős gazdasági hasznot lehet elérni, továbbra sem világos, hogy az MI használatából eredő termelékenységnövekedés nagyobb növekedésben nyilvánul-e meg, illetve hogyan befolyásolja a foglalkoztatást.

A testület rámutatott egy sor – a biztonsággal kapcsolatos – aggodalomra is, mint például az ellenőrzés elveszítése az MI-rendszerek felett, mivel egyre inkább önállóak lesznek és megtévesztőbbé válnak. Az MT-t már most felhasználják félretájékoztató és más ártalmas tartalmak előállítására, és csalásra, kibertámadásokra, valamint biológiai fenyegetésekre is felhasználható.

A szabályozása továbbra is egyenetlen, sok ország nem jut hozzá vagy nem tud kifejleszteni modern MI-rendszereket, így olyan technológiára támaszkodik, amelyeket nem képes teljességében megismerni vagy ellenőrizni. A létező biztonsági eszközök gyakran a vállalatok által közreadott tesztadatoktól függenek – áll a jelentésben.

António Guterres ENSZ-főtitkár sürgős fellépésre szólította fel a kormányokat.

„A világot nem lehet kormányozni, ha nem ismerjük” – szögezte le a közleményben.

„Nagy a lehetőség, de reálisak a veszélyek, és a várakozás ára egyre csak nő” – tette hozzá.