El director ejecutivo de Anthropic, Dario Amodei, ha planteado una advertencia contundente respecto al desarrollo acelerado de la inteligencia artificial. Mediante un exhaustivo ensayo de treinta y ocho páginas titulado “La adolescencia de la tecnología: Confrontar y superar los riesgos de la IA avanzada”, Amodei sostiene que la humanidad se encuentra en un punto de inflexión histórico donde el poder de la tecnología crece exponencialmente, pero las instituciones encargadas de gobernarlo permanecen rezagadas.
El ejecutivo, cuya empresa desarrolla Claude, uno de los modelos de lenguaje más sofisticados del mercado, señala que el verdadero desafío radica en que ningún actor —ya sea una empresa, un gobierno o un laboratorio de investigación— puede detenerse voluntariamente en esta carrera sin quedarse atrás. Según Amodei, la carrera por la inteligencia artificial artificial no puede autorregularse debido a que los incentivos económicos, geopolíticos y militares son demasiado poderosos.
Amodei escribe que este tipo de IA que se auto-mejora podría estar a solo uno o dos años de distancia, y advierte que los riesgos incluyen la esclavitud y la “destrucción masiva” de la humanidad.
En sus declaraciones durante el Foro Económico Mundial de Davos, Amodei fue aún más específico: advirtió que la inteligencia artificial podría superar las capacidades humanas en un horizonte de entre uno y cinco años. Esta aceleración trae consigo riesgos concretos. Particularmente preocupante es su predicción de que la IA podría eliminar hasta la mitad de los empleos administrativos de nivel inicial en corto plazo, afectando incluso sectores considerados “seguros”, como el derecho, la programación y las finanzas.
El CEO también hizo hincapié en que la tecnología podría realizar la mayoría del trabajo de ingeniería de software en apenas seis a doce meses, transformando a los ingenieros actuales en meros editores de código generado por máquinas. Esta transformación ya es observable en los laboratorios de Anthropic, donde los ingenieros ya no escriben código desde cero, sino que simplemente editan lo que genera el modelo.
Frente a este panorama, Amodei propone soluciones que califica como “aburridas pero efectivas”: leyes de transparencia, controles a la exportación de chips, obligaciones de divulgación sobre el comportamiento de los modelos, e intervenciones normativas incrementales que logren comprar tiempo institucional sin congelar el progreso. Sin embargo, advierte contra regulaciones grandilocuentes que pudieran generar rechazo y “teatro de seguridad”.
La postura del ejecutivo es particularmente significativa porque proviene del interior del sistema que describe. Anthropic ha demostrado un crecimiento vertiginoso: pasó de cien millones de dólares en ingresos en 2023 a mil millones en 2024, con proyecciones de diez mil millones para 2025. A pesar de estas cifras, Amodei enfatiza que si no se invierten recursos en programas de reentrenamiento laboral ahora mismo, la humanidad enfrentará una seria inestabilidad social.
El llamado del CEO de Anthropic representa una de las advertencias más contundentes sobre los riesgos inherentes a la inteligencia artificial, especialmente porque quienes las formulan son precisamente quienes impulsan la tecnología.
