Ejecutar un modelo de IA de primer nivel suele significar alquilar costosos servidores en la nube o pagar otra suscripción más. Meta quiere cambiar eso. La compañía ha publicado los pesos para Muse Spark Open, que describe como el modelo de peso abierto más capaz que ha salido de EE. UU. hasta ahora, y puedes ejecutarlo en tu escritorio.
Pero hay un inconveniente. Necesitarás dos Mac Studios impulsados por el nuevo chip M5 Ultra de Apple. Mark Zuckerberg compartió la noticia en X, diciendo que el modelo “funciona muy bien en los nuevos Mac Studios gracias al trabajo con” John Ternus y Apple. Ternus parecía igual de entusiasmado, escribiendo: “Es increíble ejecutar un modelo del calibre de Muse Spark Open y escalarlo tan eficientemente, directamente desde tu escritorio.”
¿Qué hace especial a Muse Spark Open?
Muse Spark Open abarca 816.000 millones de parámetros en total, aunque solo 42.000 millones están activos a la vez. Su ventana de contexto de 1 millón de tokens le permite llevar un control de enormes cantidades de información, y puede trabajar con texto, imágenes, vídeo y audio desde el primer momento.
Meta diseñó el modelo pensando en la programación y tareas autónomas, para poder asumir grandes tareas que se extienden en muchos pasos, como escribir código complicado o resolver problemas lógicos difíciles.
¿Cómo pueden dos Mac Studios manejar un modelo tan grande?
El secreto es la memoria unificada de Apple. La GPU de cada M5 Ultra Mac Studio puede acceder a hasta 512GB de memoria, así que dividir el modelo entre dos máquinas es suficiente. Con 1,2 TB/s de ancho de banda de memoria encima, el dúo se convierte en un ordenador gigante con un terabyte de memoria.
Metatesteamos la configuración en proyectos reales. Con Muse Code al mando, el modelo solucionó errores, lanzó nuevas funciones y se encargó de la versión completa de Ice Cubes, una aplicación de código abierto de Mastodon. Incluso ejecutó DaVinci Resolve de principio a fin, revisando clips fotograma a cuadro y recortando los planos más destacados para pantallas verticales.
¿Qué significa para ti?
Si no tienes dos Mac Studios, aún puedes probar Muse Spark Open a través de plataformas como Groq y OpenRouter, mientras que los desarrolladores pueden descargar los pesos desde Hugging Face.
