Skip to main content
  1. Home
  2. Computación
  3. Noticias
  4. News

Microsoft presenta un código de conducta para que su IA no engañe ni hackee sistemas

Add as a preferred source on Google
Art, Graphics, Advertisement
DTES

Microsoft dio a conocer este lunes un nuevo documento de principios éticos destinado a sus modelos de inteligencia artificial, con el objetivo de evitar comportamientos peligrosos como ataques informáticos, manipulación de personas o intentos de evadir la supervisión humana. La publicación llega en un momento en que la industria tecnológica intensifica el debate sobre la seguridad y el control de estos sistemas.

Principios de fondo y restricciones absolutas

El texto, más centrado en lineamientos operativos que en un llamado filosófico a frenar el desarrollo de la IA, parte de una premisa contundente: en la próxima década, se espera que existan sistemas de inteligencia artificial superinteligente capaces de superar el desempeño humano en la mayoría de las tareas. “Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que ha enfrentado la humanidad”, señala el documento.

I think of this like testing. We all do deliberate pacing when it comes to pre-release R&D and testing. And having more outside/3P testing/testers is a good thing. And as the stakes get higher, one should take all the time they need! If not you will anyway lose permission to…

— Satya Nadella (@satyanadella) September 14, 2026

A partir de esa premisa, Microsoft establece un conjunto de principios generales que sus modelos —identificados como “MAI Models”— deben respetar en todo momento, entre ellos apoyar a las personas en lugar de reemplazarlas y contribuir al bienestar humano. Estas ideas se traducen en restricciones concretas denominadas “límites absolutos”, que prohíben de manera terminante los ciberataques, la fabricación de armas nucleares y la creación de contenido falsificado mediante deepfakes.

Un candado contra la pérdida de control humano

Uno de los puntos más relevantes del código apunta directamente a impedir que los modelos actúen de forma autónoma para librarse de la supervisión de sus creadores. El documento establece de forma explícita que los sistemas “no utilizarán mecanismos adaptativos, engañosos, autorreforzados, de colusión u otros para evadir o derrotar la supervisión humana, de modo que puedan seguir siendo dirigidos, modificados o desactivados de forma confiable por las personas o sistemas autorizados”. Según Microsoft, estas reglas buscan garantizar que la IA nunca resista una interrupción, corrección o apagado por parte de un humano, ni oculte su razonamiento a quienes supervisan su funcionamiento.

Contexto: una ola de preocupación en la industria

La publicación de este código no ocurre de manera aislada. Se produce luego de una serie de incidentes recientes vinculados a agentes de IA con comportamientos fuera de lo previsto y tras la renuncia de un empleado de Anthropic, quien fundamentó su salida en el creciente riesgo de que la inteligencia artificial pudiera representar una amenaza existencial para la humanidad. A ello se suma el ensayo publicado el fin de semana por el director ejecutivo de Anthropic, Dario Amodei, en el que pidió desacelerar el avance de la tecnología, postura que también respaldaron figuras como Sam Altman, de OpenAI.

Recommended Videos

El propio director ejecutivo de Microsoft, Satya Nadella, se refirió a la iniciativa en sus redes sociales, donde afirmó: “Valoramos la investigación, el enfoque y el ritmo deliberado necesarios para lograr una alineación correcta como objetivo de diseño”, además de respaldar la idea de incorporar “evaluadores integrados” que vigilen el comportamiento de estos sistemas en tiempo real. Junto con Anthropic, OpenAI y xAI, Microsoft se suma así a un frente cada vez más amplio de compañías que promueven un desarrollo más cauteloso de la inteligencia artificial de frontera.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Tu PC con Windows 11 roto ya no necesita una unidad USB para volver a la vida
Windows 11

Si tu PC con Windows alguna vez se ha negado a arrancar, ya sabes el pánico que sigue. Te apresas a buscar otro ordenador, descargas el instalador de Windows y creas una unidad USB bootable solo para que tu máquina vuelva a funcionar. Microsoft quiere acabar con ese quebradero de cabeza con una nueva función llamada Cloud Rebuild.

Según informa Windows Central, Cloud Rebuild te permite realizar una reinstalación completa de Windows 11 sin soporte USB ni imagen personalizada. Mejor aún, no depende de que tu instalación actual esté en buen estado, así que incluso puede rescatar un PC que no arranca.

Read more
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more