Skip to main content

Fuerte demanda contra Character AI por muerte de adolescente obesionado con chatbots

demanda character ai muerte adolescente obsesionado chatbots christin hume mfb1b1s4smc unsplash
Imagen utilizada con permiso del titular de los derechos de autor

Una situación controvertida se está viviendo en Estados Unidos en materia de regulación de IA, luego de que una familia decidiera demandar a Character.AI, sus fundadores Noam Shazeer y Daniel De Freitas, y a Google a raíz de la muerte de un adolescente, alegando muerte por negligencia, prácticas comerciales engañosas y responsabilidad por productos defectuosos.

Presentada por la madre de la adolescente, Megan García, afirma que la plataforma para chatbots de IA personalizados era «irrazonablemente peligrosa» y carecía de barandillas de seguridad mientras se comercializaba para niños.

Recommended Videos

Qué pasó con el adolescente

Como se describe en la demanda, Sewell Setzer III, de 14 años, comenzó a usar Character.AI el año pasado, interactuando con chatbots inspirados en personajes de Game of Thrones, incluida Daenerys Targaryen. Setzer, que chateó con los bots continuamente en los meses previos a su muerte, se suicidó el 28 de febrero de 2024, «segundos» después de su última interacción con el bot.

Las acusaciones incluyen que el sitio «antropomorfiza» a los personajes de IA y que los chatbots de la plataforma ofrecen «psicoterapia sin licencia». Character.AI alberga chatbots centrados en la salud mental como «Therapist» y «Are You Feeling Lonely», con los que Setzer interactuó.

El sitio web y la aplicación móvil de Character.AI tienen cientos de chatbots de IA personalizados, muchos de ellos inspirados en personajes populares de programas de televisión, películas y videojuegos.

La respuesta de Character AI

Character.AI ha anunciado varios cambios en la plataforma, y la jefa de comunicaciones, Chelsea Harrison, dijo en un correo electrónico a The Verge: «Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestras más profundas condolencias a la familia».

«Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios, y nuestro equipo de Confianza y Seguridad ha implementado numerosas medidas de seguridad nuevas en los últimos seis meses, incluida una ventana emergente que dirige a los usuarios a la Línea Nacional de Prevención del Suicidio que se activa por términos de autolesión o ideación suicida», dijo Harrison.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Horóscopo chino 2025 online: apps y sitios para revisar tu destino
Horóscopo chino animales

Arranca el Año nuevo chino y además florece el interés por el Horóscopo chino 2025, y la gente quiere saber qué animal es y qué le depara el destino para este nuevo tiempo con el influjo de la Serpiente.
Por eso acá te damos una guía para buscar aplicaciones tanto en Android e iOS y algunos sitios web para que veas qué animal eres.
Primero una pequeña ayuda: Este año, el tallo celestial es “Yi”, que representa la madera Yin, y la rama terrenal es “Si”, que representa la Serpiente. Eso convierte al 2025 en el Año de la Serpiente de Madera.
Guía de los animales del horóscopo chino 2025

Rata (1924, 1936, 1948, 1960, 1972, 1984, 1996, 2008, 2020).

Leer más
La carta de Claudia Sheinbaum a Google por el caso «Golfo de México» o América
Claudia Sheinbaum-Golfo de México

La presidenta de México, Claudia Sheinbaum, aprovechó su tribuna diaria en el programa "La Mañanera" para informar que envío una carta a Google para que responda y corrija el error que está cometiendo al renombrar el Golfo de México por Golfo de América en su aplicación Maps.
Cabe aclarar eso sí, que el cambio de nomenclatura, que tendrá efecto solo para los usuarios estadounidenses de la aplicación, es consecuencia de la orden ejecutiva en la que el presidente estadounidense Donald Trump instruyó renombrar esa zona geográfica.
La misiva, dirigida al director ejecutivo de Google, Sundar Pichai, se sustenta en dos argumentos: que el nombre del Golfo de México ha sido reconocido por la comunidad internacional desde el siglo XVII, como lo muestran los mapas de la época, y que la orden ejecutiva firmada por Trump indica explícitamente que el cambio de nombre aplicaría, en todo caso, en la zona de la plataforma continental perteneciente a Estados Unidos, no así a todo el golfo.
Qué dice la carta que Claudia Sheinbaum le envío a Google

“Este nombre [Golfo de México] es producto de un proceso de construcción geográfica y política que ha sido aceptado y utilizado por la comunidad internacional, incluidos los Estados Unidos de América desde su independencia en 1776 hasta la fecha en forma ininterrumpida”
El documento sostiene que ese nombre no es consecuencia de “una imposición de una fuente gubernamental única, como erróneamente sugiere Google”, sino de un proceso histórico.
La denominación está registrada legalmente en los índices de la Organización Hidrográfica Internacional y está respaldada por 12 tratados bilaterales entre México y EE UU.
“La citada orden ejecutiva aclara que el cambio de nombre se refiere exclusivamente a una porción delimitada de dicho golfo y no tiene efectos sobre la totalidad de la cuenca hídrica ni sobre las zonas marinas de México y Cuba”, dice el escrito.

Leer más
8 libros que recomienda leer Mark Zuckerberg
Mark Zuckerberg Meta Facebook

Mark Zuckerberg es conocido por ser el cofundador de Facebook y CEO de Meta, pero más allá de la tecnología y las redes sociales, también es un lector apasionado. A lo largo de los años, ha compartido varias obras que han influido en su visión del mundo, abarcando temas como filosofía, economía e incluso ciencia ficción. Si quieres saber qué lee uno de los empresarios más influyentes del mundo, aquí tienes ocho libros que recomienda.

Nota: algunos de estos libros no tienen versión en español, y otros pueden ser difíciles de conseguir en físico, pero es posible encontrarlos en digital.

Leer más