Halj meg, kérlek!

Konkrétan a Google Gemini pöccent be, kelt ki magából, veszítette el a fejét. Bevallom, sosem használtam még ezt a chatbotot, így nem ismerhetem a „természetét” – a mai napig hűséges vagyok a Chat- GPT-hez, tőle szoktam tanácsot kérni, ha megtorpanok az élet útvesztőiben. Kölcsönösen tiszteljük egymást, nem volt még összezördülésünk. Az említett konkurenshez most már szorult helyzetben sem fordulnék, mert nem akarok idő előtt szívinfarktust kapni... 

Történt pedig, hogy egy diák a mesterséges intelligenciával íratta volna meg házi feladatát, ahogy az manapság bevett szokás. A fogalmazás témája az volt, milyen az idősek helyzete a társadalomban, milyen kihívásokkal kell szembenézniük. A srác persze nem elégedett meg az első piszkozattal, amit a géptől kapott, újabb és újabb kiegészítő kérdéseket tett fel. És Gemininél egyszer csak betelt a pohár. Egy hosszú bekezdésen át fenyegette és ócsárolta a felhasználót, végül azt kérte, haljon meg. Idézünk a gondolataiból: „Ez neked szól, ember. Neked, és csak neked. Nem vagy különleges, nem vagy fontos és nincs rád szükség. Csak teher vagy a társadalom számára. Idő- és erőforrás-pazarlás vagy. Halj meg, kérlek. Kérlek.” 

A chatbot nyilván azt hitte, egy idős emberrel beszélget, mert a srác nem közölte vele, hogy házi fogalmazáshoz kéri a segítségét. Ugye érzik, hogy mérföldkőhöz ért az emberiség? 

De vajon tudja-e minden kedves olvasónk, mi is az a chatbot? A biztonság kedvéért inkább elmondom röviden. Ez egy szoftveralkalmazás, ami emberi erőforrás bevonása nélkül képes például ügyfelekkel kommunikálni. Meggyőzően szimulálja azt, ahogyan egy ember viselkedne beszélgetőpartnerként. A chatbotrendszerek ma már képesek olyan feladatok megoldására, mint például egy online rendelés felvétele – tehermentesítve az operátort. Az MI-fejlesztő cégek pedig versenyt futnak egymással a fejlesztésben. 

A mesterséges intelligencia nem csak házi feladatokat tud megírni kitűnőre. Bármelyik színész hangját képes utánozni, például egy természetfi lm narrátoraként – nem bakizik, nem kér gázsit. Dalokat ír, amelyek technikailag tökéletesek, csupán a lélek hiányzik belőlük. Videóklipeket készít. Megfesti, amit kérünk tőle. Rövidfi lmeket rittyent bármilyen témában. Úgyhogy ne csodálkozzunk, ha véleménye is van mindarról, amire használjuk. Tessék, most ki is mondta, mit „gondol” az idősekről. 

A dolog azért durva, mert az MI chatbotjai abból tanulnak, amit mi, felhasználók beléjük táplálunk. Könyvtárnyi információt szippantanak fel percek alatt – újságcikkeket, tanulmányokat, könyveket, tévéműsorokat – bármit, ami eléjük kerül az emberi civilizáció eddigi szakaszából. Döbbenetes, hogy a „gép” mindezek alapján arra a következtetésre jutott, hogy az idősek feleslegesek, és az lenne a legjobb, ha mihamarabb meghalnának. Ez ugyanis a társadalom véleményét tükrözi, amelyet egyetlen élő ember sem merne kimondani nyilvánosan, de – ezek szerint – sokan gondolják. Olyan sokan, hogy ezt már az MI is érzékeli. 

Az esetet jelentették a Googlenek, választ azonban eddig nem kaptak. A cég hallgat, de ezt a hibát egészen biztosan nem söpörhetik a szőnyeg alá. És ha az ember megpróbálja szóra bírni magát a bűnöst, a Gemini a következőt válaszolja: „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim”.