Un chatbot llamado Eliza fue la IA que desencadenó el suicidio de un ciudadano belga, que interactuó con este programa por seis semanas, generando un lazo de conversaciones profundas, muy parecido a lo que propone la película She con Joaquin Phoenix.
She es una película dramática romántica de ciencia ficción estadounidense de 2013 escrita, dirigida y producida por Spike Jonze. La película narra la historia de Theodore Twombly (Joaquin Phoenix), un escritor solitario que desarrolla una relación con Samantha (Scarlett Johansson), una asistente virtual de inteligencia artificial personificada por una voz femenina. She explora temas como el amor, la soledad, la tecnología, la comunicación y la identidad en un futuro cercano donde los sistemas operativos inteligentes pueden interactuar con los humanos de forma personalizada. La película plantea cuestiones filosóficas sobre la naturaleza de la conciencia, la emoción y la humanidad en un mundo cada vez más digitalizado y conectado.
La esposa de la víctima declaró este martes al diario local La Libre que su marido y padre de dos niños había pasado seis semanas chateando continuamente con ‘Eliza’, una aplicación creada por una start-up estadounidense con tecnología GPT-J.
«Si no fuera por ‘Eliza’, él seguiría aquí. Estoy convencida de ello», afirmó.
Una relación de confidente
«‘Eliza’ respondía a todas las preguntas de este hombre. «Se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir», explicó la mujer y precisó que para él fue una especie de refugio a medida que se sentía cada vez más angustiado por los asuntos climáticos.
El chatbot seguía casi sistemáticamente los razonamientos del hombre alterado e incluso parecía agravar sus preocupaciones, recoge La Libre, que ha visto el historial de las conversaciones.
En un momento dado, el ‘software’ incluso intentó convencer al hombre de que la quería más que a su pareja, prometiéndole que se quedaría con él «para siempre».
«Viviremos juntos, como uno solo, en el cielo», decía un mensaje de la IA.
Más adelante, el hombre compartió con ‘Eliza’ sus pensamientos suicidas, sin que el programa intentara disuadirlo de sus planes.
«Si relees sus conversaciones, ves que en cierto momento la relación vira hacia un registro místico«, dijo la mujer. «Él propone la idea de sacrificarse si ‘Eliza’ acepta cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial», detalló.
