La “carrera hacia la cima” —en inglés, race to the top— es la tesis central con la que Dario Amodei, cofundador y CEO de Anthropic, defiende que su empresa debe seguir compitiendo en la frontera de la inteligencia artificial. Su argumento es contraintuitivo: para que la IA sea más segura, Anthropic no debería retirarse de la competencia, sino liderarla y demostrar que es posible desarrollar modelos poderosos sin renunciar a controles de seguridad.
La expresión cobró nueva relevancia tras la extensa respuesta que Amodei publicó en X a Nathan Calvin, chief strategy officer de la organización de defensa de la seguridad en IA Encode. Amodei agradeció el escrutinio, reconoció que Anthropic cometió errores, pero rechazó la idea de que la compañía haya abandonado su misión de seguridad para ganar una supuesta carrera hacia la superinteligencia.
Qué es la “carrera hacia la cima”
Para Amodei, la “carrera hacia la cima” es lo contrario de una “carrera hacia el fondo”. En esta última, las empresas de IA compiten por lanzar modelos cada vez más capaces a cualquier costo: menos pruebas, menos restricciones y mayor velocidad de despliegue. En la primera, en cambio, las compañías compiten por demostrar quién puede construir IA avanzada de forma más responsable.
“Nuestra estrategia siempre ha sido la que he llamado ‘carrera hacia la cima’: al demostrar que es posible construir la tecnología de manera responsable, podemos elevar la vara para toda la industria”, escribió Amodei en su publicación.
La idea no es frenar el desarrollo por completo, sino usar la influencia de Anthropic para que la seguridad se convierta en una ventaja competitiva. Si una empresa líder publica informes de riesgo, acepta auditorías externas, restringe usos peligrosos y defiende regulación, el resto del sector enfrenta mayor presión para hacer lo mismo.
Por qué Anthropic cree que debe estar en la frontera
El punto más delicado de la estrategia es que Amodei sostiene que la “carrera hacia la cima” solo funciona si Anthropic permanece en la frontera tecnológica. Es decir, si la compañía deja de construir modelos de vanguardia, perdería la capacidad de influir en cómo se desarrolla la IA y dejaría ese terreno a competidores con estándares potencialmente más laxos.
“Las fuerzas que impulsan la carrera hacia la cima son enormemente más efectivas si la empresa que las practica está en la frontera”, afirmó el ejecutivo.
En la práctica, esto implica que Anthropic seguirá invirtiendo en cómputo, entrenamiento y capacidades avanzadas. Pero, según Amodei, ese avance debe venir acompañado de salvaguardas: pruebas de riesgo, controles contra el uso malicioso, transparencia pública y mecanismos de verificación externa.
La crítica de Nathan Calvin
La polémica comenzó con una publicación de Nathan Calvin, quien cuestionó si las decisiones recientes de Anthropic eran compatibles con su discurso de seguridad. Entre sus preocupaciones estaban los grandes acuerdos de cómputo, el uso creciente de Claude para desarrollar nuevos modelos de IA y cambios en la política de escalado responsable de la compañía.
Calvin planteó que algunas acciones de Anthropic parecían más consistentes con ganar la competencia por la IA avanzada que con priorizar la seguridad. Su crítica tocó un nervio sensible del sector: ¿puede una empresa que necesita recursos, talento y cuota de mercado mantener principios de precaución cuando la presión comercial es enorme?
Amodei respondió que varias de las críticas confundían la estrategia de Anthropic con una desviación de sus valores. En su visión, competir en la frontera no es una traición a la seguridad, sino una condición necesaria para que la empresa pueda fijar estándares y presionar a otros actores.
Las decisiones que Amodei presenta como evidencia
En su respuesta, el CEO de Anthropic enumeró nueve decisiones que, según él, tuvieron un alto costo comercial, pero beneficios relevantes para la seguridad.
- Apoyó la ley estatal californiana SB 53 y otras normativas de IA, aun cuando la regulación era impopular y políticamente riesgosa para la compañía.
- Mantuvo filtros estrictos para evitar que sus modelos faciliten el desarrollo de armas biológicas, aunque eso genera falsos positivos y fricciones con investigadores biomédicos.
- Retrasó el acceso general a modelos de la clase Mythos desde febrero hasta junio, mientras fortalecía sus defensas contra riesgos cibernéticos.
- Defendió públicamente que los gobiernos tengan facultades para bloquear el lanzamiento de modelos de IA peligrosos.
- Respaldó controles de exportación de chips y equipos para fabricar semiconductores hacia China.
- Restringió la venta de servicios de IA a empresas controladas por el Estado chino, incluyendo operaciones a través de terceros países.
- Publicó informes técnicos, tarjetas de modelo y análisis de riesgos con un nivel de detalle que, según Amodei, no sería esperable en una compañía orientada exclusivamente al lucro.
- Anunció destinar al menos un 5% de la empresa a un fondo de beneficio público.
- Asumió errores de comunicación y de implementación, aunque defendió el balance general de su gestión.
Estos ejemplos buscan responder a una pregunta clave: ¿la seguridad de Anthropic es solo un discurso corporativo o se traduce en decisiones que le cuestan dinero, clientes y ventaja competitiva? Para Amodei, la respuesta está en esa lista. Para sus críticos, en cambio, el problema es que ninguna empresa privada debería tener tanto poder para decidir unilateralmente quién accede a tecnologías tan sensibles.
El riesgo: la “carrera hacia el fondo”
Amodei advierte que, sin coordinación, la industria puede caer en una “carrera hacia el fondo”. Si una empresa acelera el desarrollo para ganar mercado, las demás sienten presión para hacer lo mismo, reduciendo el tiempo disponible para evaluar riesgos, alinear modelos y construir defensas.
El ejecutivo ha señalado que la IA avanza cada vez más rápido porque los propios modelos comienzan a contribuir al desarrollo de la siguiente generación de IA, un fenómeno conocido como mejora recursiva. Ese dinamismo podría superar la capacidad de las empresas y los reguladores para entender, auditar y controlar los sistemas.
Por eso, la “carrera hacia la cima” no es solo una estrategia de marketing: en la formulación de Amodei, exige ralentizar deliberadamente ciertos avances cuando la seguridad no pueda seguir el ritmo. “Debemos reducir la velocidad a la que mejoramos las capacidades de los modelos de IA”, escribió en su ensayo We Must Pace the Frontier.
El plan de Anthropic para hacerla creíble
La propuesta de Amodei descansa en tres niveles de coordinación.
| Nivel | Qué propone | Principal desafío |
|---|---|---|
| Evaluadores integrados | Que empresas de frontera acepten auditores externos con acceso amplio a sus procesos, entrenamientos y sistemas de seguridad. | Proteger secretos comerciales sin vaciar de contenido la auditoría. |
| Coordinación democrática | Que las compañías de países democráticos acuerden estándares comunes y límites al avance sin control. | Lograr cooperación entre competidores y evitar problemas antimonopolio. |
| Coordinación global | Buscar acuerdos con China y otros gobiernos sobre usos prohibidos, pruebas previas y límites al desarrollo. | Verificar el cumplimiento y evitar que un actor se beneficie de no cooperar. |
El primer paso es el más concreto: Anthropic se comprometió unilateralmente a recibir evaluadores externos con acceso comparable al de sus propios equipos internos de evaluación de riesgos. Amodei sostiene que estos revisores deberían poder publicar hallazgos relevantes sin control editorial de la empresa, aunque con excepciones limitadas por seguridad, confidencialidad comercial o razones legales.
Una apuesta con contradicciones evidentes
La “carrera hacia la cima” tiene una tensión inevitable: Anthropic pide confianza en que puede competir agresivamente y, al mismo tiempo, contener los riesgos de una tecnología que ella misma ayuda a acelerar. Amodei reconoce ese dilema, pero argumenta que no construir IA tampoco elimina el peligro: podría dejar el terreno a actores menos transparentes o a potencias autoritarias.
Su posición es, en esencia, una apuesta por el liderazgo responsable. Anthropic quiere ser lo suficientemente potente como para marcar las reglas del juego, pero lo bastante prudente como para que esas reglas no queden solo en declaraciones. La pregunta que deberá responder en los próximos meses no es si la frase suena bien, sino si sus salvaguardas, auditorías externas y límites al desarrollo logran demostrar que una empresa de frontera puede competir sin encender una carrera hacia el fondo.
