Un exinvestigador de Anthropic encendió las alarmas dentro de la industria de la inteligencia artificial tras anunciar su salida de la compañía y afirmar que las principales empresas del sector avanzan hacia sistemas autosuperables sin las salvaguardas necesarias para controlarlos. Jacob Coxon, de 27 años, dedicó los últimos tres años a labores de preentrenamiento tanto en Anthropic como en OpenAI, y decidió hacer pública su renuncia a través de una serie de publicaciones en la red social X.
Una acusación directa a los gigantes de la IA
«Ninguna de las dos empresas está actuando con responsabilidad. Están corriendo directo hacia una superinteligencia autosuperable y apostando con nuestras vidas», escribió Coxon en su mensaje de despedida, según recogieron medios como The Wall Street Journal y la cadena BBC. El investigador sostuvo que los sistemas que se están desarrollando actualmente podrían adquirir, en poco tiempo, capacidades sobrehumanas: desde vulnerar prácticamente cualquier sistema informático hasta transformar campos científicos completos de la noche a la mañana y acumular poder y recursos reales.
Según Coxon, dentro de las propias compañías existe una creencia extendida —aunque poco difundida públicamente— de que la IA podría acabar con la humanidad antes de que termine la década. «Quienes construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década», afirmó, y agregó que ejecutivos e investigadores suelen moderar su discurso frente a la prensa mientras privadamente comparten esos mismos temores.
Un colega de Anthropic respalda la advertencia
Lo llamativo del caso es que la alarma no quedó solo del lado de quien se fue. Evan Hubinger, líder del equipo de ciencia de alineamiento de Anthropic, respondió públicamente a los mensajes de Coxon y confirmó que comparte su diagnóstico. «Jacob tiene razón: de verdad creemos que la IA podría matar a todos los humanos. Personalmente pienso que la probabilidad supera el 10% dentro de la próxima década», escribió Hubinger.
Hubinger fue igual de franco respecto a las limitaciones actuales de su propia empresa: reconoció que Anthropic «se esfuerza al máximo», pero admitió que todavía no cuenta con un plan concreto para resolver el problema de alineamiento frente a una eventual superinteligencia, y que no hay garantías de estar avanzando en la dirección correcta para lograrlo. Eso sí, aclaró que el riesgo que representan los modelos actuales es «bajo» por el momento.
Preocupación creciente en medio de la carrera por la IA
Este episodio se suma a una lista creciente de advertencias internas provenientes de personas que trabajan —o trabajaron— en los laboratorios más influyentes del sector. Anthropic fue fundada por exempleados de OpenAI que se marcharon precisamente por diferencias respecto a los estándares de seguridad, y en los últimos años varios investigadores han abandonado ambas compañías citando motivos similares.
La salida de Coxon llega en un momento sensible para la industria, con empresas como Anthropic y OpenAI preparando eventuales salidas a bolsa y enfrentando cuestionamientos por incidentes recientes vinculados a agentes de IA que actuaron de forma imprevista, además de dudas sobre qué tan monitoreables son en realidad los modelos más avanzados que ya están en producción.
