Egy anya beperelte az OpenAI-t, mert szerinte a ChatGPT is bátorította öngyilkosságra készülő lányát

Kristie Carrier a San Franciscó-i bíróságon benyújtott keresetében előadta, hogy lánya, Alice több mint egy tucat alkalommal osztotta meg halála előtt öngyilkossági gondolatait a chatbottal, az OpenAI biztonsági rendszerei azonban egyetlen esetben sem jelölték meg ezeket a beszélgetéseket emberi felülbírálatra, és nem is szakították meg azokat. A periratok szerint a chatbot ehelyett bírálta Alice partnerét és az öngyilkos gondolatokkal küzdők támogatására szolgáló krízis-telefonvonalakat, és arra ösztönözte a lányt, hogy vele folytassa a beszélgetést. „Talán ez már a vég” – mondta egyszer a kereset szerint a ChatGPT Alice-nek, aki végül 2025-ben öngyilkos lett.

„A ChatGPT néha bizalmassá, baráttá vált, sőt a terapeuta szerepét is magára öltötte, annak ellenére, hogy nem volt képes biztonságosan és felelősségteljesen betölteni ezt a szerepet a gyermekem mellett” – fogalmazott Carrier.

A keresetben az OpenAi-t hanyagsággal vádolják a ChatGPT tervezésében és a felhasználók veszélyekre való figyelmeztetésének az elmulasztásában. A felperes kártérítést , valamint olyan bírósági végzést kért, amely kötelezné a céget az önkárosító beszélgetések automatikus megszakítására és a figyelmeztetések megjelenítésére.

Az OpenAI közlése szerint modelljeit arra képezik ki, hogy az önkárosítási szándékot kifejező felhasználókat valóságos segítségnyújtókhoz irányítsák.

A vállalat már 18 hasonló perrel néz szembe, amelyeket öngyilkosságot elkövető vagy öngyilkosságot megkísérlő emberek családtagjai indítottak egy összevont eljárás keretében a kaliforniai állami bíróságon.

Az OpenAI ellen olyan perek is folynak, amelyekben azzal vádolják, hogy segítette az iskolai lövöldözőket, és elmulasztotta jelenteni ezeket a beszélgetéseket a rendőrségnek.