Es posible que ya haya probado un montón de aplicaciones generativas de IA en su teléfono. ChatGPT o HeyPi de OpenAI son algunos ejemplos de aplicaciones de IA habladoras, mientras que Runway ML le permitirá crear videos generados por IA directamente en su teléfono.
Pero hasta ahora, casi todas las aplicaciones generativas de IA se han basado en la computación basada en la nube, lo que significa que todo el procesamiento mágico de IA ocurre en la nube, de la misma manera que los kits de Xbox hacen el trabajo pesado en los centros de servidores de Microsoft cuando transmite un juego de consola en su teléfono o tableta.
MediaTek quiere cambiar eso, permitiendo la computación generativa de IA en el dispositivo directamente en su teléfono inteligente. Ese ambicioso moonshot se materializará con el próximo chipset insignia de MediaTek, que aparecerá dentro de los teléfonos Android a fines de este año. La compañía cuenta con la ayuda en sus esfuerzos de la matriz de Facebook, Meta, que ofrece el modelo Llama 2 como la piedra angular para las aplicaciones generativas de IA.
El fabricante de chips está promocionando toda una gama de beneficios de su enfoque de procesamiento generativo de IA en el dispositivo, que incluye “rendimiento perfecto, mayor privacidad, mejor seguridad y confiabilidad, menor latencia, la capacidad de trabajar en áreas con poca o ninguna conectividad y menor costo de operación”.
Acelerar la IA generativa en los teléfonos
El próximo chip MediaTek de gama alta empleará tres tácticas clave para mejorar la experiencia generativa de IA para teléfonos inteligentes. Primero, contará con una pila de software dedicada optimizada para ejecutar Llama 2, un modelo de lenguaje grande de código abierto desarrollado por Meta que busca desafiar los modelos GPT de OpenAI y PaLM 2 de Google.
Llama 2, que fue lanzado en julio, es “gratuito para investigación y uso comercial”. Hasta ahora, no han llegado muchas aplicaciones que se basen en el modelo de lenguaje Llama 2, ya que las aplicaciones de IA basadas en GPT son actualmente la comidilla de la ciudad. Pero Meta ha estado solicitando activamente jugadores en la industria de los teléfonos inteligentes, incluido el archirrival de MediaTek, Qualcomm.
Al igual que MediaTek, Qualcomm también firmó un acuerdo con Meta para mostrar el procesamiento en el dispositivo para aplicaciones basadas en llama en teléfonos inteligentes impulsados por sus chips insignia a partir de 2024. Ambas compañías también están apuntando a otras áreas de aplicación, como los vehículos. Hardware XR, dispositivos domésticos inteligentes y más, con sus esfuerzos de IA generativa local del dispositivo facilitados por silicio de primer nivel.
En su próximo chip insignia amigable con la IA, MediaTek también utilizará una APU (Unidad de procesamiento de IA) mejorada que se basa en la “aceleración de la columna vertebral del transformador”. Los transformadores son un tipo de arquitectura de red neuronal encargada de crear grandes modelos de lenguaje como GPT (Generative Pre-Trained Transformers) que dieron origen a productos como ChatGPT y Bing Chat de Microsoft.
Finalmente, el nuevo chip de MediaTek también se sumergirá en el módulo DRAM para mejorar la experiencia del usuario de las aplicaciones de IA generativa basadas en Llama. DRAM, abreviatura de Dynamic Random Memory, es el módulo de memoria de alta velocidad y baja latencia que almacena los datos de trabajo de una aplicación. Cuanta más DRAM haya en su teléfono, mayor será la cantidad de aplicaciones que puede ejecutar en segundo plano sin ningún problema. Hay una razón por la que los fabricantes de teléfonos inteligentes como OnePlus han instalado hasta 24 GB de DRAM en sus teléfonos.
Qué significan estas actualizaciones de IA para usted
Con los ajustes antes mencionados en su lugar, MediaTek dice que su próximo chip de IA mejorará la experiencia LLM y AIGC (Contenido generado por inteligencia artificial) al cambiar la mayor parte de los requisitos de procesamiento al hardware local.
En cuanto al tipo de tareas que puede esperar acelerar, bueno, dependería de las capacidades del modelo Llama 2 de Meta y el tipo de aplicaciones que se construyen sobre él. Llama 2 es un modelo de lenguaje natural basado en texto, por lo que puede esperar que haga el mismo tipo de trucos que ChatGPT o Bard. Puede procesar consultas y proporcionar respuestas basadas en sus conjuntos de datos de entrenamiento, resumir o expandir texto, y más.
En cuanto a MediaTek, esta no será la primera asociación de IA de este tipo. En julio de este año, la compañía firmó un acuerdo con el brazo chino de Unity, que desarrolla el motor de desarrollo de juegos del mismo nombre, para explorar aplicaciones generativas de IA en el segmento de juegos.
MediaTek espera que su nuevo chip con aplicaciones Llama 2 llegue a los teléfonos inteligentes para fin de año, por lo que no tenemos que esperar mucho más para ver cómo se ve todo esto en un producto real.
