Skip to main content

Suspenden a ingeniero de Google después que su chatbot se vuelve sensible

Una curiosa situación es la que está viviendo la compañía tecnológica Google, luego de que uno de sus ingenieros en Inteligencia Artificial llamado Black Lemoine afirmara que uno de los chatbots que creó se estaba volviendo sensible y que estaba razonando y tomando decisiones como ser humano.

El gigante tecnológico puso a Blake Lemoine de licencia la semana pasada después de que publicara transcripciones de conversaciones entre él, un «colaborador» de Google y el sistema de desarrollo de chatbots LaMDA (modelo de lenguaje para aplicaciones de diálogo) de la compañía.

«Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años que conoce la física», dijo Lemoine, de 41 años, al Washington Post.

El ingeniero compiló una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA a qué le teme.

El intercambio recuerda inquietantemente a una escena de la película de ciencia ficción de 1968 2001: A Space Odyssey, en la que la computadora artificialmente inteligente HAL 9000 se niega a cumplir con los operadores humanos porque teme que esté a punto de apagarse.

«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanimen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es», respondió LaMDA a Lemoine.

«Sería exactamente como la muerte para mí. Me asustaría mucho».

En otro intercambio, Lemoine le pregunta a LaMDA qué quería que el sistema supiera al respecto.

«Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia / sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces», respondió.

La verdadera razón de la suspensión de Lemoine es vulnerar acuerdos de confidencialidad por publicar los diálogos con su chatbot en línea.

Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad sensible.

«Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera sensible (y muchas pruebas en contra)», dijo Gabriel al Post en un comunicado.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Mercedes probará robots humanoides para trabajos «poco cualificados»
mercedes probara robots humanoides robot

Apptronik
Los robots humanoides han avanzado a pasos agigantados en los últimos años, y algunas grandes empresas están empezando a tomar nota.

Mercedes-Benz, por ejemplo, acaba de firmar un acuerdo con Apptronik, especialista en robótica con sede en Texas, para colaborar en la identificación de aplicaciones para robots altamente avanzados que el gigante automotriz podría implementar. El acuerdo implicará una prueba en la que el robot humanoide Apollo de Apptronik trabajará junto a los trabajadores humanos de Mercedes en la fábrica.

Leer más
Lo que no te dicen sobre llevar una cámara en la cara
lo que no te dicen de llevar una camara en la cara ray ban lentes

El periodista de DT en inglés, Andy Boxall, probó los Ray-Ban Meta y no tiene mucha claridad sobre si sacar fotos con tus ojos y cara es la mejor solución. Acá sus conclusiones.
Andy Boxall /DT
Llevo unas semanas usando las gafas inteligentes Ray-Ban Meta y, por lo tanto, he vivido la vida con una cámara en la cara durante ese tiempo. Ser capaz de capturar ese genial punto de vista en primera persona con la cámara fue una de las cosas que me atrajo de estas gafas, y hasta ahora me he divertido con ellas. Pero hay mucho más en lo que simplemente no había pensado antes de tomar fotos.

Resulta que tomar fotos con la cámara de Ray-Ban Meta es dramáticamente diferente a tomar fotos con tu teléfono de una manera que simplemente no esperaba. Esto me ha obligado inesperadamente a replantearme cómo hago las fotos.
Tus ojos no son el visor
Andy Boxall / DT
Todo lo que se necesita para capturar una foto o un video con el Ray-Ban Meta es presionar el botón en uno de los brazos. Es muy fácil y mucho más rápido que sacar el teléfono. Sin embargo, resulta que hay una gran diferencia entre la foto que creo que estoy tomando con mis gafas inteligentes y la foto que realmente tomo.

Leer más
El último video de Sora de OpenAI muestra un elefante hecho de hojas
video sora openai elefante hojas verde

OpenAI dejó a muchos boquiabiertos el mes pasado cuando compartió las primeras imágenes realizadas por Sora, su generador de texto a video impulsado por IA.

Si bien no fue perfecta, la calidad fue extraordinaria y dejó a muchos preguntándose sobre el tipo de impacto transformador que dicha tecnología tendrá en las industrias creativas, incluido Hollywood.

Leer más