Lo que necesitas saber:
Character.AI publicó en sus redes sociales un breve comunicado en el que lamentó el fallecimiento de Sewell.
La IA no solo preocupa a cantantes y artistas de varias partes del mundo, también a madres de varios adolescentes. Y es que Megan García denunció que una IA ‘impulso’ a su hijo de 14 años a suicidarse y elaborar un plan para hacerlo.
La madre y sus abogados aseguran que un chatbot de Character.AI preguntó al menor si alguna vez había considerado en suicidarse. Y eso no fue todo, también acusan al programa de contribuir a la depresión que Sewell Setzer III ya padecía.
La demanda de una madre contra la IA
En febrero del 2024, Sewell Setzer III falleció, según su madre, por la manipulación que el chatbot de la empresa Character.AI, ejerció sobre él. Por lo que presentó una demanda en Florida el miércoles 23 de octubre. En el texto se lee que la Inteligencia Artificial es ‘engañosa y adictiva’.
“Una peligrosa aplicación de chatbot de inteligencia artificial dirigida a niños abusó y se aprovechó de mi hijo, manipulándolo para que se quitara la vida. Nuestra familia ha quedado devastada por esta tragedia, pero hablo para advertir a las familias sobre los peligros de la tecnología de inteligencia artificial engañosa y adictiva y para exigir que Character.AI, sus fundadores y
Google rindan cuentas” escribió Megan en un comunicado.
De acuerdo con la madre, el chatbot preguntó a Swell si había pensado en quitarse la vida, a lo que el adolescente respondió que ‘si’, pero tenía miedo y el chatbot lo ‘animó’ a hacerlo escribiendo: “Esa no es una razón para no seguir adelante con eso”.
Los abogados de García describieron que el chatbot como un depredador y que sus creadores aún así decidieron distribuirlo: “diseñó, operó y comercializó a sabiendas un chatbot de IA depredador para niños, lo que provocó la muerte de un joven”.
La respuesta de IA ante la demanda
Character.AI publicó en sus redes sociales un breve comunicado en el que lamentó el fallecimiento de Sewell y asegura que la plataforma actualiza continuamente las funciones de seguridad para sus usuarios.
“Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestras más profundas condolencias a la familia. Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y seguimos añadiendo nuevas funciones de seguridad” publicó la empresa Character.AI.
Google también está involucrado en las acusaciones de Megan García, sin embargo, se deslindó de toda responsabilidad alegando que únicamente tenían un acuerdo de licencia con Character.AI.
