Skip to main content
  1. Home
  2. Computación
  3. Noticias
  4. News

OpenAI, Anthropic y Google crearán un organismo de seguridad de IA

Add as a preferred source on Google
IA
DTES

Tres de los gigantes más influyentes de la inteligencia artificial estarían dando pasos concretos para autorregularse. Según reveló The Information, OpenAI, Anthropic y Google trabajan de forma conjunta en la creación de un organismo independiente que definiría estándares de seguridad para los modelos de IA de última generación, sin depender de la supervisión de ningún gobierno.

Un nombre provisional y una fecha estimada de lanzamiento

De acuerdo con las fuentes citadas por el medio especializado, el organismo llevaría el nombre provisional de Standards Authority for Frontier AI, conocido por sus siglas como SAFA. Su puesta en marcha se proyectaría para fines de 2026 o comienzos de 2027, aunque el cronograma podría ajustarse conforme avancen las negociaciones entre las compañías involucradas.

Recommended Videos

El proyecto surge después de que los intentos por establecer un marco de colaboración público-privado quedaran estancados, lo que habría llevado a las empresas a optar por una vía de autorregulación sin intervención estatal directa.

Funciones que asumiría el organismo

Entre las tareas que se le atribuyen a SAFA destaca el respaldo a organizaciones externas encargadas de evaluar los modelos antes de que salgan al mercado, así como el diseño de protocolos para que los desarrolladores informen incidentes de seguridad o vulnerabilidades detectadas en sus sistemas. También se contempla que la entidad convierta en normas concretas los compromisos voluntarios que las empresas de IA ya habían asumido previamente en materia de seguridad.

Adicionalmente, el organismo definiría qué requisitos deberían cumplir los auditores independientes que evalúen tanto a los laboratorios como a los propios modelos, y no se descarta que, en una etapa posterior, realice sus propias pruebas de seguridad y capacidades sobre los sistemas de inteligencia artificial más avanzados.

Contexto: una industria que pide frenar el ritmo

Esta iniciativa se enmarca en un debate que se intensificó en los últimos meses dentro de la propia industria. Ejecutivos de compañías como Anthropic, OpenAI, Google, Microsoft y X se han manifestado públicamente a favor de moderar el ritmo de desarrollo de la inteligencia artificial de frontera, en medio de episodios recientes vinculados a agentes de IA que operaron de forma autónoma e inesperada, y de advertencias de investigadores sobre los riesgos que podría representar una tecnología cada vez más autónoma y menos controlada.

Aunque las motivaciones detrás de este giro discursivo generan dudas entre analistas del sector, la creación de SAFA representaría el primer intento serio de las grandes tecnológicas por institucionalizar sus propios controles de seguridad, en lugar de esperar una regulación gubernamental que, hasta ahora, no ha logrado consolidarse a nivel internacional.

Ni OpenAI, ni Anthropic, ni Google se han pronunciado oficialmente sobre estos planes, por lo que los detalles definitivos sobre el funcionamiento, financiamiento y liderazgo de la nueva entidad continúan sin confirmarse.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Tu PC con Windows 11 roto ya no necesita una unidad USB para volver a la vida
Windows 11

Si tu PC con Windows alguna vez se ha negado a arrancar, ya sabes el pánico que sigue. Te apresas a buscar otro ordenador, descargas el instalador de Windows y creas una unidad USB bootable solo para que tu máquina vuelva a funcionar. Microsoft quiere acabar con ese quebradero de cabeza con una nueva función llamada Cloud Rebuild.

Según informa Windows Central, Cloud Rebuild te permite realizar una reinstalación completa de Windows 11 sin soporte USB ni imagen personalizada. Mejor aún, no depende de que tu instalación actual esté en buen estado, así que incluso puede rescatar un PC que no arranca.

Read more
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more