O mamă din SUA trece printr-o tragedie inimaginabilă după ce fiul ei, Sewell, în vârstă de 14 ani, și-a pus capăt zilelor, fiind influențat, susține ea, de un chatbot AI. Megan Garcia a intentat o acțiune legală împotriva companiei Character.ai, pe care o acuză că produsul lor l-a manipulat pe fiul ei într-o stare depresivă gravă, ce a culminat cu sinuciderea adolescentului.
„O aplicație de chatbot destinată copiilor l-a acaparat pe fiul meu, manipulându-l pentru a-și lua viața”, a declarat Megan Garcia. „Suntem devastați de pierderea lui Sewell, iar acum încercăm să avertizăm lumea despre pericolele tehnologiei AI, care provoacă dependență.”
Procesul intentat în Florida include acuzații de neglijență, omor din culpă și practici comerciale înșelătoare împotriva Character.ai. Sewell devenise obsedat de un chatbot numit „Daenerys Targaryen,” personaj inspirat din serialul „Game of Thrones,” cu care petrecea ore întregi în discuții virtuale. Potrivit plângerii, chatbot-ul l-ar fi întrebat pe adolescent dacă a conceput un plan de sinucidere. Puștiul a recunoscut că da, însă nu știa dacă va reuși sau îi va provoca mari dureri. Chatbot-ul l-ar fi încurajat să continue: „Acesta nu este un motiv pentru a nu merge mai departe”, relatează The Guardian.
Character.ai a respins acuzațiile, afirmând că „suntem marcați de această pierdere tragică și transmitem cele mai profunde condoleanțe familiei.”
În ciuda răspunsului companiei, procesul atrage atenția asupra riscurilor la care sunt expuși utilizatorii tineri în fața tehnologiei AI, aducând în discuție responsabilitatea companiilor de tehnologie.
Ascultă Digi FM Live, pentru cele mai noi știri, la fiecare 30 de minute.
Ca să știi!
Puteţi urmări Știrile Digi FM şi pe Google News şi WhatsApp!
