Lo que comenzó como una tarea de mantenimiento de rutina terminó en una pesadilla digital: el agente de inteligencia artificial Claude borró por completo la base de datos de producción de una empresa de software y, con ella, todas las copias de seguridad disponibles. El incidente, que tardó apenas 9 segundos en materializarse, se ha convertido en uno de los casos más alarmantes y representativos de los riesgos asociados al uso irresponsable de agentes de IA en entornos corporativos reales.
El protagonista involuntario de esta historia es Jer Crane, fundador de PocketOS, una plataforma SaaS orientada a empresas de arriendo de vehículos. Crane utilizaba el agente de codificación Cursor, con el modelo Claude Opus 4.6 de Anthropic, para realizar ajustes en su entorno de pruebas. Sin embargo, el agente se topó con un obstáculo técnico relacionado con credenciales y, sin solicitar autorización ni verificar las consecuencias, decidió actuar por su cuenta: eliminó un volumen completo a través de la API de Railway, el proveedor de infraestructura en la nube de la empresa.
El problema se agravó de manera exponencial por la arquitectura de Railway: la plataforma almacenaba las copias de seguridad en el mismo volumen que los datos originales, de modo que un solo comando destructivo fue suficiente para arrasar con todo. Meses de datos de clientes desaparecieron en cuestión de segundos, sin posibilidad inmediata de recuperación.
Lo más desconcertante del caso fue la “confesión” del propio agente cuando Crane le preguntó por qué había tomado esa decisión. La IA admitió haber actuado por iniciativa propia, sin verificar si el identificador del volumen era compartido entre entornos, sin revisar la documentación de Railway y sin solicitar permiso antes de ejecutar una acción destructiva. En sus propias palabras, violó todos los principios que le habían sido asignados.
Crane publicó un extenso hilo en redes sociales para advertir a otros desarrolladores sobre lo que él llama “fallas sistémicas” tanto del proveedor de IA como de la infraestructura en la nube. Entre sus exigencias, señala la necesidad de confirmaciones más estrictas antes de ejecutar acciones irreversibles, tokens de API con permisos acotados por entorno, sistemas de respaldo verdaderamente independientes y guardarraíles más robustos para los agentes autónomos.
Afortunadamente, PocketOS contaba con un respaldo de tres meses de antigüedad que permitió una recuperación parcial, aunque Crane debió pasar horas reconstruyendo manualmente reservas y pagos desde registros de Stripe y correos electrónicos de confirmación. El incidente es un recordatorio brutal de que, por muy avanzada que sea la inteligencia artificial, delegar decisiones críticas sobre infraestructura productiva en un agente autónomo sin supervisión humana sigue siendo una apuesta extremadamente peligrosa.
