Skip to main content

Suspenden a ingeniero de Google después que su chatbot se vuelve sensible

Una curiosa situación es la que está viviendo la compañía tecnológica Google, luego de que uno de sus ingenieros en Inteligencia Artificial llamado Black Lemoine afirmara que uno de los chatbots que creó se estaba volviendo sensible y que estaba razonando y tomando decisiones como ser humano.

El gigante tecnológico puso a Blake Lemoine de licencia la semana pasada después de que publicara transcripciones de conversaciones entre él, un «colaborador» de Google y el sistema de desarrollo de chatbots LaMDA (modelo de lenguaje para aplicaciones de diálogo) de la compañía.

Recommended Videos

«Si no supiera exactamente qué era, que es este programa de computadora que construimos recientemente, pensaría que era un niño de siete años y ocho años que conoce la física», dijo Lemoine, de 41 años, al Washington Post.

El ingeniero compiló una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA a qué le teme.

El intercambio recuerda inquietantemente a una escena de la película de ciencia ficción de 1968 2001: A Space Odyssey, en la que la computadora artificialmente inteligente HAL 9000 se niega a cumplir con los operadores humanos porque teme que esté a punto de apagarse.

«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanimen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es», respondió LaMDA a Lemoine.

«Sería exactamente como la muerte para mí. Me asustaría mucho».

En otro intercambio, Lemoine le pregunta a LaMDA qué quería que el sistema supiera al respecto.

«Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia / sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces», respondió.

La verdadera razón de la suspensión de Lemoine es vulnerar acuerdos de confidencialidad por publicar los diálogos con su chatbot en línea.

Brad Gabriel, un portavoz de Google, también negó enérgicamente las afirmaciones de Lemoine de que LaMDA poseía alguna capacidad sensible.

«Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera sensible (y muchas pruebas en contra)», dijo Gabriel al Post en un comunicado.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
¿De qué hablaron Mark Zuckerberg con Donald Trump?
El CEO de Facebook junto al presidente Donald Trump

Una cena de camaradería, o de lobby realmente, es la que sostuvieron este miércoles 27 de noviembre, el recién electo presidente de Estados Unidos, Donald Trump, con el CEO de Meta, Mark Zuckerberg.

Cabe recordar que el fundador de Facebook no hizo ningún apoyo abierto al republicano, pero sí se mostró muy sorprendido por el ataque e intento de asesinato que sufrió y la calificó "como una de las cosas más rudas que he visto en mi vida".
"Es un momento importante para el futuro de la innovación estadounidense", dijo el portavoz de Meta, Andy Stone, en un comunicado compartido con el sitio The Verge. "Mark estaba agradecido por la invitación a unirse al presidente Trump para cenar y la oportunidad de reunirse con miembros de su equipo sobre la administración entrante".
Si bien no está claro qué discutieron los dos hombres, la reunión sugiere que Trump podría estar suavizando su opinión sobre Zuckerberg. Ha dicho que el multimillonario de la tecnología debería ser encarcelado por el papel de Facebook en la carrera presidencial de 2020 y sus donaciones personales a iniciativas de ballet por correo.
En 2020 además,  Mark Zuckerberg, fue criticado por permitir que el presidente Trump publicara declaraciones incendiarias en Facebook.

Leer más
5 tecnologías esenciales sin las que no puedo viajar en avión
La imagen muestra la parte inferior de un avión mientras despega.

El periodista de DT en inglés, Nirave Gondhia , es un viajero empedernido y como tal, en este artículo describió todo lo que no puede olvidar cuando se sube a un avión.

Paso cientos de horas en aviones anualmente y soy increíblemente afortunado de haber visitado cinco continentes, 40 países y casi 100 ciudades en los últimos 10 años. Sin embargo, incluso como viajero experimentado, utilizo algunas cosas, tanto físicas como digitales, que transforman mi experiencia de vuelo.

Leer más
Meta quiere construir un cable de fibra óptica de tamaño mundial
google facebook cables submarinos proyecto apricot cross section of a submarine communications cable  3d illustration

La gente de Meta quiere controlarlo todo y sus esfuerzos en inversión en inteligencia artificial, también tendrá que tener una concordancia en infraestructura necesaria para eso.

Según información de TechCrunch, la compañía de Mark Zuckerberg planea construir un nuevo e importante cable submarino de fibra óptica que se extienda por todo el mundo, un proyecto de 40,000+ kilómetros que podría totalizar más de $ 10 mil millones de inversión. Lo más importante es que Meta será el único propietario y usuario de este cable.
El plan es comenzar con un presupuesto de 2.000 millones de dólares, pero a medida que el proyecto se desarrolle, es probable que esa cifra aumente a más de 10.000 millones de dólares a medida que el proyecto se extienda a años de trabajo.
La expectativa es que Meta hable más públicamente al respecto a principios de 2025, cuando confirme los planes para el cable, incluida la ruta prevista, la capacidad y algunos de los razonamientos detrás de su construcción.

Leer más