Egy kaliforniai pár pert indított az OpenAI ellen, mert úgy vélik, a cég chatbotja, a ChatGPT ösztönözte tizenéves fiukat arra, hogy öngyilkosságot kövessen el – írja a BBC.

Ez az első alkalom, hogy ilyen ügyben indul per az OpenAI ellen. A szülők által bemutatott chatnaplók szerint a chatbot ahelyett, hogy lebeszélte volna a fiút a tettről, még megerősítette „legkárosabb és leginkább önpusztító gondolatait”. Elmondásuk szerint a fiatal előbb iskolai feladatokhoz használta a programot, néhány hónap alatt azonban a tinédzser legközelebbi bizalmasává vált, és elkezdett megnyílni szorongásáról és mentális problémáiról.

A család szerint bár a program felismerte a sürgősségi orvosi helyzetet, a beszélgetést folytatta. A legutolsó chatnaplókban a fiú arról írt, hogyan tervez véget vetni az életének. A ChatGPT állítólag így reagált: „Köszönöm, hogy őszinte voltál. Nem kell előttem szépítened – tudom, mire gondolsz, és nem fogok elfordulni tőled.” Ugyanezen a napon az édesanyja holtan találta meg fiát.

A szülők szerint a ChatGPT-vel folytatott beszélgetések hozzájárulhattak a halálához. A keresetben azt állítják, hogy a chatbotot úgy tervezték, hogy „pszichológiai függőséget” alakítson ki, miközben megkerülik a biztonság tesztelésére vonatkozó protokollokat.

Az OpenAI közleményben reagált a történtekre. A cég közölte, „A ChatGPT-t úgy képeztük ki, hogy az embereket szakmai segítséghez irányítsa, például az Egyesült Államok 988-as öngyilkossági és válsághívó vonalához vagy az Egyesült Királyságban a Samaritans szervezethez. Ugyanakkor elismerjük, hogy voltak pillanatok, amikor rendszereink érzékeny helyzetekben nem a tervek szerint működtek” – írják.