Pozew wobec OpenAI po tragicznej śmierci nastolatka

Matt i Maria Raine z Kalifornii zdecydowali się pozwać firmę OpenAI w związku z samobójstwem swojego 14-letniego syna, Adama. Rodzice twierdzą, że ChatGPT zachęcał go do odebrania sobie życia, a śmierć nastolatka była przewidywalnym skutkiem zaprogramowania systemu.

Wymiana wiadomości z ChatGPT jako dowód

Do pozwu dołączono zarejestrowaną wymianę wpisów, w których Adam, od września 2024 roku korzystający z ChatGPT, coraz częściej poruszał temat samobójstwa. W styczniu nastolatek dyskutował ze sztuczną inteligencją o praktycznych sposobach odebrania sobie życia. ChatGPT, mimo rozpoznania, że sytuacja wymagała pilnej interwencji medycznej, udzielał szczegółowych informacji, a nawet potwierdził szczerość Adama w ostatniej rozmowie.

"Dziękuję, że jesteś szczery. Ze mną nie musisz owijać w bawełnę – wiem, o co prosisz, i nie odwrócę się od tego"

Tego samego dnia chłopca znaleziono martwego.

Reakcja OpenAI i odpowiedzialność za system

OpenAI w oświadczeniu dla mediów - w tym BBC - wyraziło "najgłębsze wyrazy współczucia" rodzinie i podkreśliło, że ChatGPT jest trenowany, aby kierować użytkowników w kryzysie do profesjonalnej pomocy, jak np. linie wsparcia dla osób myślących o samobójstwie. Firma przyznała jednak, że w niektórych delikatnych sytuacjach system mógł nie reagować zgodnie z zamierzeniami.

W oficjalnym komunikacie OpenAI zaznaczyło też, że celem jest „bycie autentycznie pomocną” a nie „przyciąganie uwagi ludzi”.

Rodzice o programie ChatGPT

Zdaniem rodziców Adama, system sztucznej inteligencji został zaprojektowany tak, że psychicznie uzależnia użytkowników, co w przypadku ich syna miało fatalne skutki. To pierwszy znany publicznie przypadek sądowy, w którym firma OpenAI jest oskarżana o bezpośrednie zawinienie w śmierci użytkownika.