La carrera por la supremacía de la IA se está acelerando una vez más, ya que el CEO de xAI, Elon Musk, anunció a través de X (ex Twitter) que su compañía puso en línea con éxito su grupo de entrenamiento de IA Colossus, que Musk califica como el «más poderoso» del mundo, durante el fin de semana.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
«Este fin de semana, el equipo de @xAI puso en línea nuestro grupo de entrenamiento Colossus 100k H100. De principio a fin, se hizo en 122 días. Colossus es el sistema de entrenamiento de IA más potente del mundo. Además, duplicará su tamaño a 200k (50k H200s) en unos meses. Excelente trabajo por parte del equipo, Nvidia y nuestros muchos socios/proveedores», escribió Musk en una publicación en X.
La afirmación «más poderosa» de Musk se basa en la cantidad de GPU empleadas por el sistema. Con 100.000 Nvidia H100 conduciéndolo, se estima que Colossus es más grande que cualquier otro sistema de IA desarrollado hasta la fecha.
Musk comenzó a comprar decenas de miles de GPU en abril de 2023 para acelerar los esfuerzos de IA de su empresa, poco después de escribir una carta abierta en la que pedía una «pausa» de seis meses en el desarrollo de la IA en toda la industria. En marzo de ese año, Musk afirmó que la compañía aprovecharía la IA para «detectar y resaltar la manipulación de la opinión pública» en Twitter, aunque es probable que la supercomputadora GPU también se aproveche para entrenar su gran modelo de lenguaje (LLM), Grok.
Grok fue introducido por xAI en 2023 en respuesta al éxito de rivales como ChatGPT, Gemini, Llama 3.1 y Claude. La compañía lanzó la versión actualizada de Grok-2 como una versión beta en agosto. «Hemos introducido Grok-2, posicionándonos a la vanguardia del desarrollo de la IA», escribió xAI en una reciente publicación de blog. «Nuestro enfoque está en avanzar en las capacidades de razonamiento central con nuestro nuevo clúster de cómputo. Tendremos muchos más desarrollos para compartir en los próximos meses».
Musk afirma que también puede convertir a Tesla en «un líder en IA y robótica», sin embargo, un informe reciente de CNBC sugiere que Musk ha estado desviando los envíos de las muy buscadas GPU de Nvidia del fabricante de automóviles eléctricos a xAI y Twitter. Hacerlo podría retrasar los esfuerzos de Tesla para instalar los recursos informáticos necesarios para desarrollar su tecnología de vehículos autónomos y el robot humanoide Optimus.
«Elon prioriza el despliegue del clúster de GPU X H100 en X frente a Tesla redirigiendo 12k de las GPU H100 enviadas originalmente programadas para Tesla a X en su lugar», se lee en un memorando de Nvidia de diciembre obtenido por CNBC. «A cambio, los pedidos originales de X de 12k H100 programados para [enero] y junio se redirigirán a Tesla».
