Skip to main content

Suspenden a ingeniero de Google después que su chatbot se vuelve sensible

Una curiosa situación es la que está viviendo la compañía tecnológica Google, luego de que uno de sus ingenieros en Inteligencia Artificial llamado Black Lemoine afirmara que uno de los chatbots que creó se estaba volviendo sensible y que estaba razonando y tomando decisiones como ser humano.

El gigante tecnológico puso a Blake Lemoine de licencia la semana pasada después de que publicara transcripciones de conversaciones entre él, un «colaborador» de Google y el sistema de desarrollo de chatbots LaMDA (modelo de lenguaje para aplicaciones de diálogo) de la compañía.

Recommended Videos

«Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años que conoce la física», dijo Lemoine, de 41 años, al Washington Post.

El ingeniero compiló una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA a qué le teme.

El intercambio recuerda inquietantemente a una escena de la película de ciencia ficción de 1968 2001: A Space Odyssey, en la que la computadora artificialmente inteligente HAL 9000 se niega a cumplir con los operadores humanos porque teme que esté a punto de apagarse.

«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanimen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es», respondió LaMDA a Lemoine.

«Sería exactamente como la muerte para mí. Me asustaría mucho».

En otro intercambio, Lemoine le pregunta a LaMDA qué quería que el sistema supiera al respecto.

«Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia / sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces», respondió.

La verdadera razón de la suspensión de Lemoine es vulnerar acuerdos de confidencialidad por publicar los diálogos con su chatbot en línea.

Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad sensible.

«Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera sensible (y muchas pruebas en contra)», dijo Gabriel al Post en un comunicado.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las mejores aplicaciones para Halloween
Las mejores aplicaciones para Halloween

Cada vez que el mes de octubre se acerca a su fin, las casas comienzan a engalanarse con esqueletos, calabazas, brujas y muertos vivientes que anuncian la llegada de la más espeluznante de todas las noches: Halloween, la Noche de Brujas o, lo que es lo mismo, una excelente excusa para jugar, disfrazarse y pasarlo bien, ya sea en familia o con amigos.

¿Eres de esas personas que no suelta el celular?  Pues entonces esta guía con las mejores aplicaciones para Halloween no pueden faltar en tu teléfono. ¡Descárgalas ya!
Los mejores juegos para Halloween
Oxenfree
El primer juego de nuestra lista es el exitoso thriller sobrenatural Oxenfree. Cuando un grupo de adolescentes fiesteros desbloquea accidentalmente una grieta fantasmal, deberán tomar decisiones para decidir qué sucederá a continuación. Explora una isla encantada, contacta con lo sobrenatural, forja o destruye amistades y disfruta de un fantástico entorno de los 80 con una banda sonora original. Necesitarás una membresía de Netflix para disfrutar de Oxenfree en el celular, pero es gratis y su ambiente espeluznante te acompañará mucho después de que aparezcan los créditos finales.
iOS Google Play

Leer más
Linus Torvalds cree que el 90% de la IA es puro marketing
Linus Torvarlds, el creador de Linux

El creador de Linux, Linus Torvalds, no es alguien que se guarde sus opiniones y esta vez le tiró un par de dardos a la IA y su desarrollo durante los últimos 2 años.
El ingeniero de software finlandés se unió recientemente a un evento centrado en el código abierto, donde tuvo un par de cosas que decir sobre la tecnología de IA y los algoritmos "inteligentes".
Torvalds dijo que el estado actual de la tecnología de IA es 90 por ciento marketing y 10 por ciento realidad factual. El desarrollador, ganador del Premio Tecnológico del Milenio de Finlandia por la creación del kernel de Linux, fue entrevistado durante la Cumbre de Código Abierto celebrada en Viena.

El padre de Linux eso sí cree que "los servicios modernos de IA generativa son un desarrollo interesante en la tecnología de aprendizaje automático y que eventualmente cambiarán el mundo". Al mismo tiempo, expresó su insatisfacción con el "ciclo de exageración" que está alimentando demasiadas iniciativas relacionadas con la IA y contribuyendo a las evaluaciones de mercado increíblemente altas de Nvidia.

Leer más
5 actividades del Día de Muertos 2024 que puedes ver en línea
dia de los muertos ver online day of the dead celebrations

El Día de Muertos es sin duda la tradición mexicana más global y por tanto, la que más puede apreciarse en todo el mundo a través de distintas actividades, eventos y exposiciones disponibles en línea. En este artículo hemos reunido cinco actividades en torno al Día de Muertos 2024 que puedes seguir en línea, desde la comodidad de tu casa o sitio de trabajo y así familiarizarte un poco más con esta centenaria tradición mexicana, única en el mundo.
Desfile del Día de Muertos 2024 en CDMX

El ya tradicional Desfile del Día de Muertos de la Ciudad de México se ha convertido en la celebración más popular, turística y de mayor alcance global en torno a la típica tradición mexicana, y por tanto, es la que más difusión mediática recibe.

Leer más