Skip to main content

ChatGPT y Mistral ahora se prueban jugando Street Fighter III

Las pruebas de rendimiento o benchmark son sumamente comunes en el mundo de la tecnología, pero sin el contexto adecuado pueden ser realmente aburridas. Ni qué decir cuando esas pruebas evalúan el rendimiento de un algoritmo de inteligencia artificial. ¿Y si en vez de usar estas pruebas se midiera el rendimiento de modelos de inteligencia artificial como ChatGPT o Mistral usando un videojuego de peleas? Bueno, pues esa debió ser la motivación detrás de Stan Girard para crear LLM Colosseum, básicamente un módulo de pruebas basadas en un emulador de videojuegos para comparar modelos de lenguaje de gran tamaño poniéndolos “a pelear” en Street Fighter III 3rd Strike.

Introducing LLM Colosseum ! 🔥

Evaluate LLMs quality by having them fight in realtime in Street Fighter III !

Who is the best ? @OpenAI or @MistralAI ?

Let them fight ! Open source code and ranking 👇 pic.twitter.com/GF6HOkVHIA

— Stan Girard (@_StanGirard) March 24, 2024

El módulo, explica su desarrollador, se basa en una premisa simple: cada modelo de lenguaje controla a un jugador (por ahora un Ken diferenciado por colores) y LLM Colosseum envía una descripción de la pantalla a cada modelo (el equivalente a un prompt). Cada modelo responde con un movimiento que a su vez recibe como respuesta otro movimiento y así hasta que termina el round. Los comandos de movimiento van desde acercarse, alejarse, lanzar un hodouken o hacer un shoryuken.

Recommended Videos

Matthew Berman, un youtuber entusiasta de la inteligencia artificial, cuenta en un video algunas observaciones interesantes en torno a los resultados de estos enfrentamientos. Quizá el más interesante es que la velocidad de respuesta es un aspecto crucial para salir triunfante en LLM Colosseum y que por eso modelos de lenguaje como Mistral Small superan a GPT-4.

A la vista las peleas lucen años luz de aquel legendario enfrentamiento entre Daigo Umehara y Justin Wong. Sin embargo, no perdamos de vista que se trata de un sistema para probar un modelo de lenguaje de gran tamaño de una forma más visual y que les exige mostrar qué tan adaptables se muestran en un escenario, digamos de vida o muerte. Encima, cada modelo debe actuar en tiempo real.

Hasta ahora, LLM Colosseum ha puesto a prueba siete modelos de lenguaje: Mistral Small, Mistral Medium, Mistral Large, GPT-3.5 Turbo, GPT-4, GPT-4-0125-preview y GPT-4-1106-preview. Hasta ahora, las pruebas ubican a GPT-3.5 Turbo como el ganador, seguido de cerca por Mistral Small y GPT-4-1106 preview.

Por ahora, todas las pruebas realizadas en LLm Colosseum son en Street Fighter III 3rd Strike, pero el emulador utilizado (Diambra) es compatible con otros títulos de peleas como Dead or Alive y The King of Fighters 98, entre otros.

Peleas de inteligencia artificial en tu PC

Como era de esperarse, LLM Colosseum está basado en un modelo de código abierto que puedes instalar en tu propia computadora para realizar pruebas tú mismo.

Your Favorite LLMs BATTLE In Street Fighter - New Benchmark!! (Tutorial)

Si estás interesado en instalar LLM Colosseum en tu PC, Matthew Berman explica paso a paso cómo hacerlo. El proceso involucra correr LLM Colosseum en DS Code e instalar Diambra y ejecutar algunos comandos de código. Buena suerte y hadouken.

Topics
Allan Vélez
Allan Vélez es un periodista mexicano especializado en tecnología. Inició su carrera en 2013 en La Revista Oficial de…
Indiana Jones y el Gran Círculo: video de 15 minutos de jugabilidad
indiana jones y el gran circulo video 15 minutos jugabilidad c  rculo

Indiana Jones y el Gran Círculo llegará a Xbox Series X|S, Game Pass y PC el 9 de diciembre yel desarrollador MachineGames entregó 15 minutos de jugabilidad.

"Desde ubicaciones y acertijos hasta equipo y combate, el director de audio de MachineGames, Pete Ward, nos lleva en un viaje relámpago a través del mundo de The Great Circle. Prepárate para el lanzamiento con este vistazo a la gran aventura de Indy", dice el adelanto.

Leer más
Las mejores barajas de Pokémon JCC Pocket ahora mismo
Mejores barajas Pokémon

Al comienzo de tu viaje de JCC Pokémon Pocket, te centrarás principalmente en conseguir tantas cartas decentes en tu colección como sea posible. Una vez que finalmente hayas luchado contra algunos amigos y hayas creado algunas cartas, podrás hacer un gran mazo.

Desafortunadamente, incluso una buena baraja no puede rivalizar con algunas de las mejores barajas que cualquiera puede crear en Pokémon JCC Pocket. Los jugadores finalmente han tomado medidas enérgicas contra el meta del juego, por lo que si desea competir en las grandes ligas contra otros en línea, debe crear algunos de los mejores mazos que se enumeran a continuación.
Mewtwo ex cubierta
Nintendo

Leer más
Nintendo nos lleva de paseo por Donkey Kong Land: ¿qué hay de nuevo?
donkey kong land que hay de nuevo

Super Nintendo World sigue afinando todos sus rincones para seguir creciendo y así convertirse en el mundo de fantasía en la vida real de los fanáticos de la compañía japonesa.

En la edición especial de este lunes 11 de noviembre de Nintendo, la leyenda de los videojuegos Shigeru Miyamoto llevó a los fanáticos a Donkey Kong Country como parte de un nuevo Nintendo Direct especial, dando una muestra de lo que se puede esperar de la expansión antes de su lanzamiento el próximo mes en Japón.

Leer más