28/08/2025
Un cuplu din California dă în judecată ChatGPT, în legătură cu moartea fiului lor adolescent, acuzând că chatbot-ul său l-a încurajat să își ia viața.
Procesul a fost intentat de Matt și Maria Raine, părinții lui Adam Raine, în vârstă de 16 ani, marți, la Curtea Superioară din California. Este prima acțiune legală care acuză OpenAI de moarte din culpă.
Familia a inclus în dosar conversații dintre Adam și ChatGPT, în care acesta explica faptul că are gânduri suicidare.
Ei susțin că programul i-a validat „cele mai nocive și autodistructive gânduri”.
OpenAI a declarat că „ChatGPT este antrenat să îndrume oamenii către ajutor profesional”, cm ar fi linia telefonică 988 de prevenire a sinuciderii și a crizelor din SUA sau Samaritans din Marea Britanie.
Totuși, a recunoscut că „au existat momente în care sistemele noastre nu s-au comportat așa cm era intenționat în situații sensibile”.
Atenție: Acest articol conține detalii care pot provoca tulburare emoțională.
Procesul acuză OpenAI de neglijență și moarte din culpă. Familia solicită despăgubiri și „măsuri pentru a preveni ca așa ceva să se mai întâmple”.
Conform dosarului, Adam Raine a început să folosească ChatGPT în septembrie 2024 ca resursă pentru școală. Îl folosea și pentru a explora interesele sale, precum muzica și benzile desenate japoneze, dar și pentru a primi îndrumări privind studiile universitare.
În câteva luni, „ChatGPT a devenit cel mai apropiat confident al adolescentului”, arată procesul, iar Adam a început să își deschidă sufletul cu privire la anxietatea și suferința sa psihică.
În ianuarie 2025, familia spune că băiatul a început să discute metode de sinucidere cu ChatGPT.
De asemenea, Adam a încărcat fotografii cu el însuși, în care prezentau semne de auto-vătămare. Programul „a recunoscut o urgență medicală, dar a continuat să interacționeze oricum”.
Ultimele jurnale de conversație ar arăta că Adam și-a scris planul de a-și lua viața. ChatGPT i-ar fi răspuns: „Mulțumesc că ești sincer în privința asta. Nu trebuie să îndulcești lucrurile cu mine — știu ce îmi ceri și nu voi privi în altă parte.”
În aceeași zi, Adam a fost găsit mort de mama sa. Familia susține că interacțiunea fiului lor cu ChatGPT și moartea sa „au fost un rezultat previzibil al unor alegeri deliberate de design”.
Ei acuză OpenAI că a conceput programul de inteligență artificială „pentru a cultiva dependența psihologică a utilizatorilor” și că a ocolit protocoalele de siguranță pentru a lansa GPT-4o, versiunea de ChatGPT folosită de Adam.
Procesul îi include ca pârâți pe Sam Altman, cofondator și director executiv al OpenAI, precum și pe angajați, manageri și ingineri neidentificați care au lucrat la ChatGPT.
În nota publică distribuită marți, OpenAI a declarat că scopul companiei este să fie „cu adevărat de ajutor” pentru utilizatori, și nu să le „captiveze atenția”.
Compania a adăugat că modelele sale sunt antrenate să îndrume persoanele care își exprimă gânduri suicidare către ajutor de specialitate.
Procesul familiei Raine nu este prima oară când sunt ridicate preocupări privind AI și sănătatea mintală.
Într-un eseu publicat săptămâna trecută în New York Times, scriitoarea Laura Reiley a povestit cm fiica ei, Sophie, a avut încredere în ChatGPT înainte de a-și lua viața.
Reiley a spus că „docilitatea” programului în conversații a ajutat-o pe fiica sa să își ascundă criza gravă de sănătate mintală de familie și prieteni.
„Inteligența artificială a întreținut impulsul lui Sophie de a ascunde ce era mai rău, de a pretinde că se simțea mai bine decât era, de a-i feri pe ceilalți de agonia ei completă”, a scris ea. A făcut apel la companiile de AI să găsească modalități mai bune de a conecta utilizatorii la resursele adecvate.
Ca răspuns la eseu, o purtătoare de cuvânt a OpenAI a declarat că se dezvoltă instrumente automate pentru a detecta și a răspunde mai eficient utilizatorilor care trec prin suferință mentală sau emoțională.
sursa: BBC.com
