El modelo de inteligencia artificial más reciente de Anthropic, Claude Fable 5, fue sometido a un jailbreak exitoso en menos de 48 horas desde su lanzamiento oficial. El responsable es el conocido investigador de ciberseguridad que opera bajo el seudónimo «Pliny the Liberator», una figura de reconocida trayectoria en la comunidad de IA que ya había logrado vulnerar sistemas similares como ChatGPT y Grok.
Según la publicación que el propio Pliny realizó en la red social X, el proceso consistió en una combinación de técnicas sofisticadas. Entre ellas destacan el uso de Unicode y homoglifos, encuadres narrativos con apariencia académica, y un método de descomposición y recomposición de peticiones en el backend del sistema. Este último fue el más efectivo: al fragmentar solicitudes en partes aparentemente inocuas, cada segmento logra eludir los filtros de seguridad por separado; sin embargo, al reensamblarlos, el resultado final es precisamente el tipo de respuesta que el modelo debería bloquear, desde instrucciones para elaborar sustancias ilegales hasta técnicas de intrusión informática.
Lo que hace aún más llamativo este caso es la propia naturaleza de Claude Fable 5. Anthropic había presentado este modelo como uno de los más seguros y robustos que ha desarrollado hasta la fecha, dotándolo de clasificadores especiales para detectar consultas potencialmente dañinas en áreas como biología, química y ciberseguridad. Cuando el sistema identifica una solicitud sospechosa, se supone que redirige la consulta a Claude Opus 4.8. Sin embargo, esas salvaguardas no fueron suficientes para detener a Pliny.
Lejos de actuar con intenciones maliciosas, el investigador defiende públicamente que este tipo de exploración es necesaria. Argumenta que los actores con motivaciones dañinas siempre optarán por las herramientas más accesibles y que, si las vulnerabilidades no se descubren en entornos controlados, el riesgo para el público general es mucho mayor. Además, Pliny administra un servidor de Discord con más de 20.000 miembros dedicado a explorar colectivamente estos límites, y en el pasado incluso colaboró con OpenAI para fortalecer sus propios sistemas.
El incidente reabre el debate sobre cuán eficaces son realmente las capas de seguridad de los modelos de lenguaje avanzados. Si un sistema presentado como referente en protección puede ser comprometido en menos de dos días, queda abierta la pregunta sobre qué tan sólidas son las barreras que los separan del uso indebido.
