Geoffrey Hinton, premio Nobel y figura clave en el desarrollo de las redes neuronales modernas, afirmó este miércoles que considera “no irrazonable” estimar en alrededor de un 10% la probabilidad de que la inteligencia artificial provoque la extinción de la humanidad en los próximos diez años. Durante una entrevista en el programa “Newsnight” de la BBC, el científico, conocido como el “padrino de la IA”, advirtió que nadie sabe aún cómo calcular con precisión ese riesgo, pero que subestimarlo sería un error grave.
Hinton explicó que, a diferencia de tecnologías anteriores, la IA avanzada podría llegar a ser más inteligente que los seres humanos en un plazo muy corto, lo que abre escenarios de riesgo sin precedentes. Entre las vías de daño potencial mencionó el diseño de virus biológicos letales, ciberataques devastadores, campañas masivas de desinformación y la capacidad de un sistema autónomo para manipular a personas e instituciones con el fin de alcanzar objetivos propios.
El Nobel reveló que su estimación temporal se ha ido acortando con los años: mientras antes pensaba que un evento catastrófico podría ocurrir en 30 o 50 años, luego lo redujo a entre 10 y 20, y ahora considera plausible que suceda en una década o incluso antes. Esta compresión del horizonte de riesgo coincide con la aceleración en el desarrollo de modelos cada vez más capaces, impulsada por inversiones multimillonarias de compañías como Anthropic y OpenAI.
Las declaraciones de Hinton se producen en un contexto de creciente alarma interna en la industria. Días antes, el investigador Jacob Coxon anunció su renuncia a Anthropic denunciando que la compañía y sus competidores están “apostando con nuestras vidas” al avanzar hacia una superinteligencia autorrecursiva sin contar con un plan sólido para garantizar su alineación con valores humanos. Evan Hubinger, responsable de ciencia de alineación en Anthropic, respondió públicamente que comparte esa preocupación y que, en su opinión, existe más de un 10% de probabilidad de extinción en la próxima década si no se resuelve el problema de la alineación.
Frente a este panorama, Hinton renovó su llamado a establecer marcos regulatorios globales para la IA. Aunque reconoció que los países pueden discrepar en muchos temas, sostuvo que todos comparten un interés básico en preservar la existencia humana, lo que debería permitir acuerdos mínimos sobre evaluación de riesgos, pruebas obligatorias para modelos de gran capacidad y mecanismos para frenar el despliegue de sistemas que superen ciertos umbrales de peligro.
