Skip to main content

La supercomputadora de Nvidia puede traer otra era de ChatGPT

El CEO de Nvidia mostrando la computadora Grace Hopper de la compañía.
Nvidia

Nvidia acaba de anunciar una nueva supercomputadora que puede cambiar el futuro de la IA. La DGX GH200, equipada con casi 500 veces más memoria que los sistemas con los que estamos familiarizados ahora, pronto caerá en manos de Google, Meta y Microsoft.

¿El objetivo? Revolucionando la IA generativa, los sistemas de recomendación y el procesamiento de datos a una escala que nunca antes habíamos visto. ¿Se beneficiarán los modelos de lenguaje como GPT y qué significará eso para los usuarios habituales?

Describir la DGX GH200 de Nvidia requiere el uso de términos con los que la mayoría de los usuarios nunca tienen que lidiar. «Exaflop», por ejemplo, porque la supercomputadora proporciona 1 exaflop de rendimiento y 144 terabytes de memoria compartida. Nvidia señala que esto significa casi 500 veces más memoria que en un solo sistema Nvidia DGX A100.

Volvamos a la figura de 1 exaflop y analicémosla un poco. Un exaflop equivale a un quintillón de operaciones de punto flotante por segundo (FLOP). A modo de comparación, la RTX 4090 de Nvidia puede alcanzar alrededor de 100 teraflops (TFLOP) cuando se overclockea. Un TFLOP equivale a un billón de operaciones de punto flotante por segundo. La diferencia es asombrosa, pero por supuesto, la RTX 4090 no es una GPU de centro de datos. La DGX GH200, por otro lado, integra un número sustancial de estas GPU de alto rendimiento que no pertenecen a una PC de consumo.

El superchip Grace Hopper de Nvidia.
Nvidia

La computadora funciona con los superchips GH200 Grace Hopper de Nvidia. Hay 256 de ellos en total, que, gracias a la tecnología de interconexión NVLink de Nvidia, pueden trabajar juntos como un sistema unificado, esencialmente creando una GPU masiva.

Los superchips GH200 utilizados aquí tampoco necesitan una conexión PCIe tradicional entre la CPU y la GPU. Nvidia dice que ya están equipados con una Nvidia Grace CP, U basada en ARM, así como una GPU H100 Tensor Core. Nvidia también tiene algunas interconexiones de chips elegantes aquí, esta vez usando el NVLink-C2C. Como resultado, se dice que el ancho de banda entre el procesador y la tarjeta gráfica mejora significativamente (hasta 7 veces) y es más eficiente en el consumo de energía (hasta 5 veces).

Empaquetar más de 200 de estos chips en una sola potencia de una supercomputadora es lo suficientemente impresionante, pero se vuelve aún mejor cuando se considera que, anteriormente, solo se podían unir ocho GPU con NVLink a la vez. Un salto de ocho a 256 chips ciertamente le da a Nvidia algunos derechos de fanfarronear.

Es difícil no imaginar que el DGX GH200 podría impulsar mejoras en Bard, ChatGPT y Bing Chat.

Ahora, ¿dónde terminará la DGX GH200 y qué puede ofrecer al mundo? Nvidia está construyendo su propia supercomputadora Helios como un medio para avanzar en su investigación y desarrollo de IA. Abarcará cuatro sistemas DGX GH200, todos interconectados con Quantum-2 InfiniBand de Nvidia. Se espera que entre en funcionamiento a finales de año.

Nvidia también está compartiendo su nuevo desarrollo con el mundo, comenzando con Google Cloud, Meta y Microsoft. El propósito es muy similar: explorar las cargas de trabajo generativas de IA.

Cuando se trata de Google y Microsoft, es difícil no imaginar que el DGX GH200 podría impulsar mejoras en Bard, ChatGPT y Bing Chat.

CEO de Nvidia mostrando la computadora Hopper de la compañía.
Nvidia

La importante potencia computacional proporcionada por un solo sistema DGX GH200 lo hace muy adecuado para avanzar en el entrenamiento de modelos de lenguaje sofisticados. Es difícil decir qué podría significar exactamente eso sin el comentario de una de las partes interesadas, pero podemos especular un poco.

Más potencia significa modelos más grandes, lo que significa texto más matizado y preciso y una gama más amplia de datos para entrenarlos. Podríamos ver una mejor comprensión cultural, más conocimiento del contexto y una mayor coherencia. Los chatbots especializados de IA también podrían comenzar a aparecer, reemplazando aún más a los humanos en campos como la tecnología.

¿Deberíamos preocuparnos por el posible desplazamiento de empleos, o deberíamos estar entusiasmados con los avances que estas supercomputadoras podrían traer? La respuesta no es sencilla. Una cosa es segura: el DGX GH200 de Nvidia podría sacudir las cosas en el mundo de la IA, y Nvidia acaba de aumentar su liderazgo en IA sobre AMD una vez más.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Vuelve a la arena de los gladiadores: ChatGPT regresa a Italia
los mejores chatbots de ia chatgpt

Luego de un mes de controversia y prohibición, ChatGPT volvió a estar disponible en Italia, luego de que su creador OpenAI  ha implementado cambios para satisfacer a los reguladores italianos. "ChatGPT está disponible de nuevo para nuestros usuarios en Italia", dijo en un comunicado publicado por The Associated Press. "Estamos muy contentos de darles la bienvenida de nuevo, y seguimos dedicados a proteger su privacidad".

OpenAI dijo que había "abordado o aclarado" los problemas planteados por la Autoridad Italiana de Protección de Datos (o GPDP) a fines de marzo. El GPDP acusó a ChatGPT de recopilar ilegalmente los datos de los usuarios y no evitar que los usuarios menores de edad accedieran a material inapropiado, lo que llevó a OpenAI a bloquear ChatGPT en el país. A la compañía se le dio 20 días para abordar los problemas.

Leer más
Ahora puede chatear por video con una IA de ChatGPT
call annie chatear ia chatgpt

Presentarse a una videoconferencia como tu avatar digital puede ser bastante divertido. Apple te permite hacer precisamente eso con Memojis durante FaceTime. Si quieres algo más ambicioso en una plataforma diferente, Avatarify se convertirá en Albert Einstien o Mona Lisa para llamadas de Zoom. Pero, ¿y si pudieras dar vida a una conversación sobre IA? Digamos, hablando con ChatGPT como si la IA de OpenAI fuera una persona CGI que te habla en una videollamada.

Bueno, eso ahora es posible. Call Annie es una aplicación que convierte a ChatGPT en Annie, un avatar femenino parlante que no parece un desastre visual defectuoso. Desarrollada por Animato.Ai, la aplicación es actualmente exclusiva de iOS 16, pero también puede usarla en máquinas macOS 13 con un procesador de la serie M en su interior.
Una videollamada impulsada por ChatGPT en acción
https://twitter.com/frantzfries/status/1651316031762071553?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1651316031762071553%7Ctwgr%5Ea2fb128e5d69fc99373984f74888c33c05edf782%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.digitaltrends.com%2Fmobile%2Fchatgpt-ai-video-calling-app-call-annie-news%2F
Otra limitación es que necesita al menos el iPhone 12 o un modelo posterior para iniciar una videollamada con Annie porque la conversión en tiempo real de indicaciones lingüísticas en señales visuales extrae energía del motor neuronal de Apple.
Los creadores de la aplicación afirman que hablar con Annie "cara a cara en tiempo real se siente más natural y más rápido que escribir y leer texto". Hasta ahora, los videos de muestra que hemos visto en las redes sociales, como el anterior, muestran una interfaz de videollamada bastante convincente.
En este momento, Annie parece ser bastante buena para mantener una conversación fluida, a pesar de que la voz suena robótica, y la frase pausa también podría necesitar algo de trabajo. Las respuestas, sin embargo, son típicas de las respuestas que obtendría al enviar mensajes de texto de ida y vuelta con ChatGPT. Y con el tiempo suficiente y el entrenamiento de voz mejorado, las interacciones de Call Annie pueden sonar mucho más naturales.
Todo me trae recuerdos de la película de ciencia ficción Her, en la que el personaje de Joaquin Phoenix se enamora de una de esas IA. Un usuario preguntó en Reddit si Annie puede tener un sistema de "memoria" que la convierta en una "amiga" más inteligente, a lo que los desarrolladores de la aplicación respondieron con "pronto".
https://twitter.com/jakedahn/status/1651285054591750144?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1651285054591750144%7Ctwgr%5Ea2fb128e5d69fc99373984f74888c33c05edf782%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.digitaltrends.com%2Fmobile%2Fchatgpt-ai-video-calling-app-call-annie-news%2F
Esto es solo el comienzo para Annie
Los usuarios que han probado la aplicación notan que ocasionalmente falla en la pronunciación de las palabras, pero una vez corregida, también aprende de inmediato. Un usuario describió esta experiencia como "cosas aterradoras". Otro problema que tiene es con la pronunciación de palabras en idiomas distintos del inglés, algo que los desarrolladores están tratando de solucionar.
Gracias a su inteligencia ChatGPT, los desarrolladores de la aplicación dicen que puede ayudarlo con todo, desde aprendizaje y búsquedas en la web hasta servir como guía turístico o incluso como compañero virtual. No sabemos si es tan inteligente como otras aplicaciones de socios virtuales como Replika, pero teniendo en cuenta el hecho de que Annie se basa en ChatGPT (y su vasto modelo de entrenamiento de datos), puede tener una conversación significativamente más profunda y basada en hechos con Annie.
La descripción de la App Store de Animato señala que la IA mantiene todas las conversaciones "confidenciales", pero no ha especificado qué tipo de medidas de seguridad se han implementado y si utiliza las conversaciones del usuario para entrenar y refinar los sistemas de Annie.

Leer más
Guardrails: la herramienta de Nvidia que hace de policía de ChatGPT
guradrails nvidia chatgpt guardrails

Nvidia está presentando su nueva herramienta NeMo Guardrails para desarrolladores de IA, y promete hacer que los chatbots de IA como ChatGPT sean un poco menos locos. El software de código abierto está disponible para los desarrolladores ahora, y se centra en tres áreas para hacer que los chatbots de IA sean más útiles y menos inquietantes.

La herramienta se encuentra entre el usuario y el modelo de lenguaje grande (LLM) con el que están interactuando. Es una seguridad para los chatbots, interceptando las respuestas antes de que lleguen al modelo de lenguaje para evitar que el modelo responda o para darle instrucciones específicas sobre cómo responder.
Jacob Roach 
Nvidia dice que NeMo Guardrails se centra en los límites temáticos y de seguridad. El enfoque temático parece ser el más útil, ya que obliga al LLM a permanecer en un rango particular de respuestas. Nvidia demostró Guardrails mostrando un chatbot entrenado en la base de datos de recursos humanos de la compañía. Cuando se le hizo una pregunta sobre las finanzas de Nvidia, dio una respuesta enlatada que fue programada con NeMo Guardrails.

Leer más