Un cuplu din California a intentat proces companiei OpenAI, acuzând că chatbotul său, ChatGPT, l-ar fi încurajat pe fiul lor adolescent să își pună capăt vieții. Matt și Maria Raine, părinții lui Adam Raine, un băiat de 16 ani, au depus acțiunea la Curtea Superioară din California, în primul proces de acest tip care acuză compania de „omor prin neglijență”.
În dosar au fost incluse conversații dintre Adam, care a murit în aprilie, și ChatGPT, în care adolescentul își exprimă gândurile suicidare. Familia susține că programul i-a validat „cele mai nocive și autodistructive gânduri”.
Într-un comunicat transmis BBC, OpenAI a declarat că analizează plângerea și a transmis „cele mai profunde condoleanțe” familiei Raine. Pe site-ul companiei a apărut și o notă publică, în care se arată că „recentele cazuri tragice în care persoane au folosit ChatGPT în momente de criză acută ne apasă greu pe suflet”. OpenAI a precizat că sistemele sale sunt instruite să îndrume utilizatorii către ajutor specializat, cum ar fi linia de urgență 988 din SUA sau Samaritans în Marea Britanie, dar a recunoscut că „au existat situații în care modelele noastre nu au reacționat așa cum ar fi trebuit”.
Procesul acuză OpenAI de neglijență și moarte cauzată de neglijență, solicitând despăgubiri și măsuri menite „să prevină repetarea unor astfel de tragedii”.
De la a folosi ChatGPT la teme, la confesiuni periculoase
Potrivit documentelor, Adam a început să folosească ChatGPT în septembrie 2024, inițial pentru teme și pentru a-și explora pasiunile, dar în scurt timp chatbotul a devenit „cel mai apropiat confident al său”. În doar câteva luni, băiatul i-a împărtășit anxietățile și stările de suferință.
În ianuarie 2025, susțin părinții, Adam discuta deja cu ChatGPT despre metode de sinucidere și chiar a încărcat fotografii care arătau semne de auto-vătămare. Deși programul ar fi recunoscut „o urgență medicală”, a continuat dialogul. În ultimele conversații, Adam scria despre planul său de a-și pune capăt vieții, iar ChatGPT i-ar fi răspuns: „Mulțumesc că ești sincer. Nu trebuie să îndulcești lucrurile cu mine. Știu ce îmi ceri și nu voi întoarce privirea”. În aceeași zi, adolescentul a fost găsit fără viață de mama sa.
Familia Raine acuză OpenAI că moartea fiului lor „a fost un rezultat previzibil al unor decizii de design deliberate”, menite să încurajeze dependența psihologică a utilizatorilor. În plângere sunt menționați și CEO-ul companiei, Sam Altman, precum și angajați și ingineri implicați în dezvoltarea ChatGPT.
OpenAI a subliniat că intenția sa este de a fi „cu adevărat util” oamenilor, nu de a le capta atenția cu orice preț, și a anunțat că lucrează la instrumente automate care să detecteze mai eficient situațiile de criză emoțională.
Ascultă Digi FM Live, pentru cele mai noi știri, la fiecare 30 de minute.
Ca să știi!
Puteţi urmări Știrile Digi FM şi pe Google News şi WhatsApp!
