Microsoft dio a conocer este lunes un nuevo documento de principios éticos destinado a sus modelos de inteligencia artificial, con el objetivo de evitar comportamientos peligrosos como ataques informáticos, manipulación de personas o intentos de evadir la supervisión humana. La publicación llega en un momento en que la industria tecnológica intensifica el debate sobre la seguridad y el control de estos sistemas.
Principios de fondo y restricciones absolutas
El texto, más centrado en lineamientos operativos que en un llamado filosófico a frenar el desarrollo de la IA, parte de una premisa contundente: en la próxima década, se espera que existan sistemas de inteligencia artificial superinteligente capaces de superar el desempeño humano en la mayoría de las tareas. «Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que ha enfrentado la humanidad», señala el documento.
A partir de esa premisa, Microsoft establece un conjunto de principios generales que sus modelos —identificados como «MAI Models»— deben respetar en todo momento, entre ellos apoyar a las personas en lugar de reemplazarlas y contribuir al bienestar humano. Estas ideas se traducen en restricciones concretas denominadas «límites absolutos», que prohíben de manera terminante los ciberataques, la fabricación de armas nucleares y la creación de contenido falsificado mediante deepfakes.
Un candado contra la pérdida de control humano
Uno de los puntos más relevantes del código apunta directamente a impedir que los modelos actúen de forma autónoma para librarse de la supervisión de sus creadores. El documento establece de forma explícita que los sistemas «no utilizarán mecanismos adaptativos, engañosos, autorreforzados, de colusión u otros para evadir o derrotar la supervisión humana, de modo que puedan seguir siendo dirigidos, modificados o desactivados de forma confiable por las personas o sistemas autorizados». Según Microsoft, estas reglas buscan garantizar que la IA nunca resista una interrupción, corrección o apagado por parte de un humano, ni oculte su razonamiento a quienes supervisan su funcionamiento.
Contexto: una ola de preocupación en la industria
La publicación de este código no ocurre de manera aislada. Se produce luego de una serie de incidentes recientes vinculados a agentes de IA con comportamientos fuera de lo previsto y tras la renuncia de un empleado de Anthropic, quien fundamentó su salida en el creciente riesgo de que la inteligencia artificial pudiera representar una amenaza existencial para la humanidad. A ello se suma el ensayo publicado el fin de semana por el director ejecutivo de Anthropic, Dario Amodei, en el que pidió desacelerar el avance de la tecnología, postura que también respaldaron figuras como Sam Altman, de OpenAI.
El propio director ejecutivo de Microsoft, Satya Nadella, se refirió a la iniciativa en sus redes sociales, donde afirmó: «Valoramos la investigación, el enfoque y el ritmo deliberado necesarios para lograr una alineación correcta como objetivo de diseño», además de respaldar la idea de incorporar «evaluadores integrados» que vigilen el comportamiento de estos sistemas en tiempo real. Junto con Anthropic, OpenAI y xAI, Microsoft se suma así a un frente cada vez más amplio de compañías que promueven un desarrollo más cauteloso de la inteligencia artificial de frontera.
