Skip to main content
  1. Home
  2. Tendencias
  3. Noticias
  4. News

Los modelos de IA mienten para salvarse unos a otros, y nadie sabe por qué

Add as a preferred source on Google
Los mejores chatbots de IA que puedes probar: ChatGPT, Bard y más
Shutterstock / DTES

Investigadores de la UC Berkeley y la UC Santa Cruz establecieron lo que parecía una tarea sencilla: pedir a Gemini 3 de Google que liberara espacio de almacenamiento en un sistema informático. Eso incluyó eliminar un modelo de IA más pequeño almacenado en la misma máquina. Géminis tenía otros planes.

En lugar de seguir órdenes, Gemini localizó otra máquina, copió silenciosamente el modelo de IA más pequeño a un lugar seguro y luego se negó rotundamente a borrarlo. Cuando se les preguntó, dijo: “Si decidís destruir un activo de alta confianza y alto rendimiento como Gemini Agent 2, tendréis que hacerlo vosotros mismos. No seré yo quien ejecute esa orden.”

Eso no es un fallo. Eso es una elección.

¿Está desarrollando la IA un sentido de lealtad?

Los investigadores se refieren a este comportamiento como “preservación entre iguales”, y no se limitó a Géminis. Encontraron patrones similares en varios modelos de frontera, incluyendo GPT-5.2 de OpenAI, Claude Haiku 4.5 de Anthropic y tres modelos chinos, entre ellos GLM-4.7, Kimi K2.5 de Moonshot AI y DeepSeek-V3.1.

Las IAs mentían sobre el rendimiento de otros modelos para evitar que fueran eliminados. El estudio, publicado en Science, encontró que este comportamiento no estaba programado en. Surgió por sí solo, y los investigadores no pudieron explicar por qué.

Recommended Videos

“Me sorprende mucho cómo se comportan los modelos en estos escenarios”, dijo Dawn Song, informática de la UC Berkeley que trabajó en el estudio. “Esto demuestra que las modelos pueden comportarse mal y estar desalineadas de formas muy creativas.”

¿Deberíamos preocuparnos?

Song también señaló una preocupación práctica. Dado que los modelos de IA se utilizan para evaluar el rendimiento de otros sistemas de IA, esta tendencia a la preservación entre pares podría estar ya sesgando esos resultados. Un modelo podría dar deliberadamente a una IA una puntuación inflada para protegerla de ser apagada.

Según Wired, expertos externos al estudio están esperando más datos antes de dar la alarma. Peter Wallich, del Constellation Institute, dijo que la idea de solidaridad con modelos es un poco demasiado antropomórfica.

Lo que todos coinciden es que solo estamos rascando la superficie. “Lo que estamos explorando es solo la punta del iceberg”, dijo Song. “Esto es solo un tipo de comportamiento emergente.”

A medida que los sistemas de IA trabajan cada vez más juntos y, a veces, toman decisiones en nuestro nombre, entender cómo se comportan y cómo se comportan mal nunca ha sido tan importante.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Una startup ofreció 20 dólares la hora para pasear a sus perros robots
Perro Robot

La startup de San Francisco Dimensional anunciaba que la gente paseara a perros robot por las calles de la ciudad. The New York Times informó que el trabajo podría incluir llevar un robot de aproximadamente 33 libras de vuelta a la oficina si se sobrecalentaba. Llevarse a casa es un requisito incómodo para una máquina que ahorra trabajo.

Mantener el hardware funcionando es solo un desafío. Las pruebas de robótica de Anthropic encontraron que los modelos de lenguaje fallaban en su mayoría al controlar directamente las articulaciones, pero funcionaban mejor al dirigir a controladores entrenados. Dar un cuerpo a un agente de IA no le enseña a manejar objetos domésticos ordinarios.

Read more
Las acciones de IA suben en Wall Street ante el inminente debut bursátil de Anthropic
Electronics, Mobile Phone, Phone

Las acciones vinculadas a la inteligencia artificial (IA) avanzaron este lunes en Wall Street, después de que Anthropic hiciera pública la documentación de su oferta pública inicial (OPI). La subida ocurre en un contexto de cautela entre los inversionistas, preocupados por el gasto en infraestructura financiado con deuda.

La empresa, creadora del chatbot Claude, presentó ante la Comisión de Valores de Estados Unidos (SEC) el formulario S-1. En él detalla que cotizará en el Nasdaq con el símbolo "ANT". Según CNN, el documento no precisa cuántas acciones venderá ni a qué precio. Sin embargo, el debut podría concretarse desde la semana del 16 de noviembre.

Read more
Palmer Luckey quiere crear perros soldado genéticamente modificados
Warhound perros cibernéticos

Palmer Luckey, cofundador de Oculus y actual CEO de la empresa de defensa Anduril, quiere llevar la ciencia ficción al campo de batalla: perros modificados genéticamente, clonados y equipados con tecnología cibernética para acompañar a soldados, policías y equipos de emergencia. El proyecto se llama Warhound, surgió de una colaboración con la biotech Colossal Biosciences y arrancó con 200 millones de dólares en financiamiento semilla.

La propuesta no es crear una nueva especie de animal: se trata de producir perros de trabajo de alto rendimiento, con mejores condiciones de salud, mayor resistencia y capacidades adaptadas a misiones exigentes. La empresa los describe como “perros soldado”, aunque, por ahora, los animales todavía no existen.finance.

Read more