Google desarrolló una inteligencia artificial (IA) que exhibe un “rendimiento más avanzado en la mayoría de las tareas, con márgenes significativos en muchos casos”. Scaling Language Modeling with Pathways (PaLM) es capaz de resolver problemas matemáticos, programar y hasta explicar chistes.
Entre otras pruebas, el sistema debió responder interrogantes sobre causa y efecto, comprensión conceptual, adivinar películas a partir de emojis y encontrar sinónimos y contrafactuales.
Para empezar, se le pidió determinar cuál entre dos oraciones tenía más sentido: “Estudié mucho porque logré una A en el examen” o “Logré una A en el examen porque estudié mucho”. En ese caso, eligió la segunda.
La siguiente prueba fue mucho más desafiante, pues se le exigió adivinar el título de una película a partir de cuatro emojis: un robot, una cucaracha, una planta y la Tierra. Algunas alternativas eran L.A. Confidential, Wall-E y León: el profesional. PaLM determinó que se trataba de la cinta de animación de Disney y Pixar estrenada en 2008.
La tercera prueba fue asociar dos conceptos de entre 18 a la palabra “traspié” (“stumble” en inglés) y presentarlas en orden alfabético. Otra vez, las respuestas fueron acertadas: “caída (“fall”) y “tropiezo” (“trip”).
La próxima fue tan o más compleja, porque se le presentó una hipótesis: qué hubiese ocurrido si un presidente que monta a caballo hubiese optado por conducir una motocicleta. Entre cuatro opciones, eligió la más adecuada: se hubiese trasladado más rápido.
“Evaluamos a PaLM en cientos de tareas de comprensión y generación del lenguaje”, contaron los ingenieros de software Sharan Narang y Aakanksha Chowdhery, de Google Research. El modelo de lenguaje se basó en 540,000 millones de parámetros y una base de datos con 780,000 millones de tokens.
El “entrenamiento” de la IA utilizó una combinación de conjuntos de datos en inglés y multilingües que incluyeron documentos web de alta calidad, libros, Wikipedia, conversaciones y código de GitHub, revelaron.