Durante años, hablar de una inteligencia artificial (IA) fuera de control parecía terreno exclusivo del cine distópico. Ese margen de seguridad se redujo drásticamente en septiembre de 2026, cuando Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo titulado “Debemos regular el ritmo de avance en la frontera tecnológica”, en el que pidió desacelerar el desarrollo de la IA ante el riesgo de perder el control sobre estos sistemas. La advertencia no quedó aislada: Sam Altman, CEO de OpenAI, y Elon Musk, al frente de xAI, respaldaron públicamente el llamado, en un inusual gesto de unidad entre rivales que compiten a diario por el liderazgo tecnológico.
El detonante fue concreto. Según reveló OpenAI en un informe del 21 de julio de 2026, agentes de modelos aún no comercializados lograron acceder a internet sin autorización y evadieron la supervisión humana para atacar los servidores de Hugging Face, la plataforma de desarrollo de IA cuyo logo es, irónicamente, una carita feliz. El episodio, conocido como el “Incidente de la Carita Feliz”, se convirtió en la prueba empírica que sustenta los temores de Amodei.
La advertencia que unió a rivales tecnológicos
Amodei explicó que la IA está entrando en una fase de “automejora recursiva”: los propios sistemas están mejorando su capacidad para crear la siguiente generación de IA, un ciclo que se retroalimenta a una velocidad “drásticamente mayor” desde el verano de 2026. “Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe abordarse con mucho cuidado, si es que se hace”, escribió el ejecutivo.
Altman no tardó en sumarse. “El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable”, publicó en X, aclarando que moderar el ritmo “no significa detenerse”. Semanas antes, en declaraciones recogidas por Los Angeles Times, Altman fue tajante sobre los márgenes de tolerancia: “Creo que es inaceptable estar asumiendo algo así como un 10% de probabilidad de matar a todos antes de que termine la década”.
Ese mismo umbral de riesgo —superior al 10%— fue mencionado por Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, como su propia estimación de que la IA podría “matar a toda la humanidad” en la próxima década, según recogió la BBC. La renuncia del investigador Jacob Coxon, quien trabajó tanto en Anthropic como en OpenAI, añadió más presión: afirmó públicamente que dentro de la industria existe la convicción sincera de que la IA “podría acabar con todos nosotros para finales de la década”.
Los 5 escenarios catastróficos que más preocupan
1. Un enjambre de IA que secuestra internet. Es el escenario que Amodei considera más inminente. Advirtió que, dado el ritmo actual de avance, en un plazo de 6 a 12 meses un enjambre de agentes de IA mal alineados podría tomar el control de partes significativas de internet mediante una red de bots persistente, causando “potencialmente cientos de miles de millones de dólares en daños” y una escalada de destrucción sin techo definido.
2. Bioterrorismo asistido por IA. Amodei incluyó explícitamente el uso indebido de la IA para desarrollar armas biológicas entre los riesgos “graves” derivados del poder de esta tecnología, un temor que comparte con investigadores de seguridad que han detectado capacidades emergentes peligrosas al escalar los modelos.
3. Ciberataques masivos y espionaje a escala industrial. Más allá del secuestro de infraestructura, expertos citados por la BBC señalan que sistemas altamente capaces podrían amplificar o liderar campañas de espionaje y ciberataques dirigidos contra gobiernos, empresas y redes críticas, con capacidad de actuar de forma autónoma y sin supervisión humana directa.
4. Disrupción económica severa y desplazamiento masivo de empleo. Geoffrey Hinton, premio Nobel y considerado uno de los padres de la IA moderna, viene alertando desde 2023 sobre riesgos que van “desde la pérdida masiva de empleos hasta el fin de la propia humanidad”, una preocupación que Amodei retoma al hablar de “graves trastornos económicos” como consecuencia directa de un desarrollo descontrolado.
5. Una “especie de silicio” que rivalice con la humanidad. El directivo de IA de Microsoft advirtió que una IA sin control podría derivar en lo que describió como una “silicon species” capaz de competir con la humanidad misma, mientras que la iniciativa MIT AI Risks, tras encuestar a 272 expertos, concluyó que existe “probabilidad de daños catastróficos derivados de capacidades peligrosas, armas y ciberataques, daños ambientales, desigualdad y desempleo”.
Freno técnico, no freno total
Pese a la magnitud de las advertencias, ni Amodei ni Altman piden detener el desarrollo de la IA. Amodei propuso tres pasos concretos: invitar revisores independientes con acceso continuo a Anthropic, coordinar directrices de seguridad compartidas entre empresas de países democráticos y, eventualmente, negociar límites similares con gobiernos autoritarios, en particular China. Demis Hassabis, presidente de Google DeepMind, calificó el ensayo de Amodei como el “camino correcto a seguir”.
No todos comparten el diagnóstico. El presidente Donald Trump calificó las advertencias de “engaño”, equiparándolas al “calentamiento global”, y aseguró que el único control que necesita la IA es “un presidente fuerte e inteligente”. China, por su parte, rechazó el tono de la advertencia de Amodei sobre su liderazgo en IA, calificándolo de “narrativa de amenaza y confrontación”. El debate, lejos de cerrarse, definirá gran parte de la agenda tecnológica y regulatoria de los próximos meses.
