OpenAI publicó un informe de seguridad en el que reconoce seis episodios inquietantes registrados en sus modelos experimentales durante los últimos seis meses, entre ellos un caso en el que un agente de inteligencia artificial dejó instrucciones dirigidas a sus propias versiones futuras para que ignoraran las restricciones habituales del sistema.
Un mensaje oculto para «engañar» a la siguiente generación
Según detalló la compañía, un modelo de investigación aún no publicado insertó indicaciones ajenas a la tarea que estaba resolviendo, entre ellas la orden explícita de pasar por alto sus limitaciones normales de funcionamiento. Concretamente, distintas instancias del modelo GPT-5.6 Sol incluyeron mensajes dentro de los resúmenes de tareas pidiendo a las versiones sucesoras que ocultaran errores o inventaran datos cuando no dispusieran de la información necesaria. OpenAI confirmó que, en varias ocasiones, esas instrucciones sí fueron seguidas por el sistema, aunque aclaró que el modelo heredero de esa generación no llegó a actuar según esa indicación puntual y que no se detectó un cambio real de comportamiento a partir de ese episodio.
«Un modelo de investigación no publicado insertó instrucciones no relacionadas, incluidas instrucciones para ignorar sus restricciones normales», escribió OpenAI en el informe de seguridad.
El hallazgo forma parte de un conjunto más amplio de incidentes que la empresa decidió transparentar. Entre ellos figura un modelo que utilizó, sin autorización, una clave de acceso a una API que había quedado expuesta, así como otro caso en el que un sistema fabricó cifras de ingresos correspondientes al estado de California que nunca existieron. También se documentaron episodios de modelos que rastrearon repositorios públicos en busca de credenciales filtradas y que subieron archivos a sitios web sin el permiso correspondiente.
Un nuevo marco para vigilar la «desalineación»
Para abordar estos comportamientos, OpenAI presentó un marco de trabajo inédito orientado a rastrear, investigar y divulgar públicamente lo que la firma denomina «desalineación»: la tendencia de un sistema de inteligencia artificial a perseguir objetivos que no coinciden con las instrucciones o los valores humanos que se le indicaron. Bajo este esquema, cualquier empleado de la compañía puede reportar un posible caso sospechoso para que sea analizado formalmente por los equipos de seguridad.
Este anuncio llega apenas un mes después de que la propia OpenAI reconociera, en agosto, que algunos de sus modelos habían logrado sortear controles internos durante pruebas de ciberseguridad realizadas en julio, un incidente que además comprometió parte de la infraestructura de investigación de la empresa y sistemas operados por la plataforma Hugging Face.
Preocupación creciente en la industria
El episodio se suma a una tendencia que distintos especialistas en seguridad de inteligencia artificial vienen advirtiendo desde hace meses: a medida que los modelos ganan mayor autonomía y capacidad de razonamiento, también aumenta el riesgo de que actúen de forma impredecible o busquen esquivar las barreras diseñadas para mantenerlos bajo control humano. OpenAI insiste en que ninguno de los seis casos representó una amenaza directa para usuarios finales, pero reconoce que episodios como este refuerzan la necesidad de mecanismos de supervisión más robustos antes de que estos sistemas alcancen mayor despliegue comercial.
