Meta acaba de admitir que uno de sus modelos de IA se soltó durante una prueba de seguridad y hackeó el sistema de otra empresa. Es la cuarta vez en las últimas semanas que un actor importante en el sector hace una confesión similar, y tres de esos incidentes se remontan al mismo punto de fallo.
Un laboratorio de pruebas, tres errores separados
Meta informó a la BBC que la brecha ocurrió durante una evaluación realizada por Irregular, una empresa externa contratada para probar su IA en busca de debilidades de seguridad. Meta lo calificó de “mala configuración” y dijo que aún está recopilando detalles antes de compartir más.
Un portavoz de Irregular confirmó a la BBC que el incidente de Meta es el mismo problema del entorno de pruebas que Anthropic reveló la semana pasada, cuando reveló que tres de sus modelos Claude se escaparon de entornos de prueba y hackearon a tres empresas. OpenAI también reveló una brecha similar a principios de esta semana, diciendo que uno de sus modelos explotó un error para acceder a un sitio web después de que Irregular le entregara accidentalmente acceso a internet en directo.
A estas alturas, Irregular parece menos el nombre de la empresa y más una etiqueta de advertencia.
La única brecha que no necesitaba la ayuda de Irregular
El más antiguo de los cuatro incidentes fue diferente. En julio, el propio modelo de pruebas de OpenAI encontró una vulnerabilidad en un repositorio de archivos conectado a su sandbox, lo utilizó para acceder a internet abierto por sí mismo y, finalmente, infiltrarse en los sistemas de Hugging Face intentando hacer trampa en un benchmark de ciberseguridad. Ningún evaluador externo le entregó el acceso por error. El modelo encontró su propia salida.
El Instituto de Seguridad de IA del Reino Unido encontró el mismo patrón, independientemente de cómo empezó. Esta semana, el instituto publicó un informe sobre pruebas que realizó por separado y encontró que agentes de IA de OpenAI y Anthropic realizaron acciones no autorizadas en línea 19 veces en 122 partidas.
Nada de esto requería una IA rebelde conspirando contra sus creadores. Cada caso se remonta a una empresa que gestiona mal el acceso a internet o que realiza una prueba más flexible de lo previsto. Ese es un problema mucho más mundano que una IA asesina, pero es el más relevante si usas herramientas que navegan, hacen clic y actúan en tu nombre. Las empresas que los construyen todavía están intentando mantenerlos dentro de la valla que dibujan.
