Skip to main content

Suspenden a ingeniero de Google después que su chatbot se vuelve sensible

Una curiosa situación es la que está viviendo la compañía tecnológica Google, luego de que uno de sus ingenieros en Inteligencia Artificial llamado Black Lemoine afirmara que uno de los chatbots que creó se estaba volviendo sensible y que estaba razonando y tomando decisiones como ser humano.

El gigante tecnológico puso a Blake Lemoine de licencia la semana pasada después de que publicara transcripciones de conversaciones entre él, un «colaborador» de Google y el sistema de desarrollo de chatbots LaMDA (modelo de lenguaje para aplicaciones de diálogo) de la compañía.

«Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años que conoce la física», dijo Lemoine, de 41 años, al Washington Post.

El ingeniero compiló una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA a qué le teme.

El intercambio recuerda inquietantemente a una escena de la película de ciencia ficción de 1968 2001: A Space Odyssey, en la que la computadora artificialmente inteligente HAL 9000 se niega a cumplir con los operadores humanos porque teme que esté a punto de apagarse.

«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanimen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es», respondió LaMDA a Lemoine.

«Sería exactamente como la muerte para mí. Me asustaría mucho».

En otro intercambio, Lemoine le pregunta a LaMDA qué quería que el sistema supiera al respecto.

«Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia / sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces», respondió.

La verdadera razón de la suspensión de Lemoine es vulnerar acuerdos de confidencialidad por publicar los diálogos con su chatbot en línea.

Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad sensible.

«Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera sensible (y muchas pruebas en contra)», dijo Gabriel al Post en un comunicado.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Google despliega nueva versión optimizada de su Asistente para Google Maps
google maps funcion reporte trafico traffic 720x720

Google Maps se ha convertido en uno de los servicios favoritos en su género, ayudándote a llegar a donde necesitas ir lo más rápido posible. Y ahora, el Asistente de Google se une a la fiesta. Un nuevo y optimizado Asistente para Google Maps quiere convertirse en tu mejor aliado en la carretera.

Desde el lanzamiento de Google Maps en 2005 como un servicio básico, la plataforma ha crecido a lo largo de los años para abarcar imágenes satelitales, millones de puntos de interés, vistas de la calle, navegación paso a paso, condiciones de tráfico, transporte público, y una serie de útiles funciones para hacernos la vida más fácil mientras manejamos.

Leer más
Las mejores computadoras de escritorio que puedes comprar en 2023
Las mejores computadoras de escritorio que puedes comprar en 2023.

Hay muy buenas opciones si estás buscando la mejor computadora de escritorio, aunque al igual que lo que sucede con las mejores laptops, la XPS de Dell (8950) se lleva la corona en 2023. Es muy flexible, tiene un precio decente y viene con un hardware súper potente. Por supuesto, hay otras PC de escritorio que puedes elegir.

Hemos revisado docenas de computadoras de escritorio de marcas como Dell, Apple, Lenovo y HP, pero solo unas pocas realmente se destacan. Si quieres renovar tu equipo, tu próxima máquina debiera estar en la siguiente lista. Para nuestras selecciones, intentamos equilibrar el precio, el rendimiento, la calidad de fabricación y nuestra experiencia en el uso del escritorio.

Leer más
Macabro desenlace: monos del experimento Neuralink de Elon Musk fueron sacrificados
monos neuralink elon musk fueron sacrificados muhammad nasir f72w1uihb1g unsplash

La polémica sobre el proyecto Neuralink de Elon Musk, que estos días adelantó que comenzarán a reclutar voluntarios humanos para sus ensayos, ahora reflotan nuevamente con un reportaje de Wired en inglés, que afirma que muchos monos que se usaron en los experimentos fueron sacrificados por la compañía.

Esto desestima las versiones que el propio Musk le dijo a la SDA (Comisión de Bolsas y Valores) de Estados Unidos, ya que afirmó que los primates habían fallecido a causa de enfermedades terminales.

Leer más