Skip to main content

ChatGPT: la cantidad de recursos que necesita para funcionar se está saliendo de control

IA generativa ChatGPT.
panumas nikhomkhai / Pexels

No es un secreto que el crecimiento de la IA generativa ha requerido cantidades cada vez mayores de agua y electricidad, dado que la infraestructura necesaria para soportar estas tecnologías implica un uso intensivo de recursos. Sin embargo, un nuevo estudio de The Washington Post e investigadores de la Universidad de California, Riverside, muestra cuántos recursos necesita el chatbot de OpenAI para realizar incluso sus funciones más básicas.

En términos de uso de agua, la cantidad necesaria para que ChatGPT redacte un correo electrónico de 100 palabras depende del estado y de la proximidad del usuario al centro de datos más cercano de OpenAI. Cuanto menos prevalente sea el agua en una región determinada y cuanto más barato sea la electricidad, más probable es que el centro de datos dependa de unidades de aire acondicionado eléctricas. En Texas, por ejemplo, el chatbot solo consume un estimado de 235 mililitros para generar un correo electrónico de 100 palabras. Ese mismo correo redactado en Washington, por otro lado, requeriría 1,408 mililitros (casi un litro y medio) por correo.

Recommended Videos

Los centros de datos se han vuelto más grandes y densamente poblados con el auge de la tecnología de IA generativa, al punto que los sistemas de refrigeración por aire tienen dificultades para mantenerse al día. Por esta razón, muchos centros de datos de IA han cambiado a esquemas de refrigeración líquida que bombean grandes cantidades de agua a través de las pilas de servidores para extraer la energía térmica, y luego la llevan a una torre de refrigeración donde el calor acumulado se disipa.

Los requisitos eléctricos de ChatGPT tampoco son insignificantes. Según The Washington Post, usar ChatGPT para redactar ese correo de 100 palabras consume suficiente energía para operar más de una docena de bombillas LED durante una hora. Si incluso una décima parte de los estadounidenses usara ChatGPT para escribir ese correo una vez a la semana durante un año, el proceso consumiría la misma cantidad de energía que cada hogar de Washington D.C. utiliza en 20 días. D.C. alberga a aproximadamente 670 mil personas.

Este no es un problema que se resolverá pronto, y es probable que empeore antes de mejorar. Meta, por ejemplo, necesitó 22 millones de litros de agua para entrenar sus últimos modelos Llama 3.1. Se descubrió que los centros de datos de Google en The Dalles, Oregon, consumen casi una cuarta parte de toda el agua disponible en la ciudad, según documentos judiciales, mientras que el nuevo supercúmulo de xAI en Memphis ya está exigiendo 150 MW de electricidad —suficiente para abastecer a hasta 30 mil hogares— de la utilidad local, Memphis Light, Gas and Water.

Topics
Karina Tapia
Redes sociales (Facebook, Instagram, TikTok), videojuegos y las últimas tendencias del internet y la industria tecnológica…
El modo de voz avanzado de ChatGPT acaba de llegar a PC y Mac
ChatGPT

Ahora puedes hablar directamente con ChatGPT directamente en tu PC o Mac, gracias a una nueva integración del Modo de Voz Avanzado, anunció OpenAI el miércoles. "Gran día para las computadoras de escritorio", declaró la compañía en una publicación X (anteriormente Twitter).

El modo de voz avanzado (AVM) se ejecuta sobre el modelo GPT-4o, el estado actual de la técnica de OpenAI, y permite al usuario hablar con el chatbot sin necesidad de indicaciones de texto.

Leer más
Tu historial de conversaciones de ChatGPT ahora se puede buscar
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

IA abierta
OpenAI presentó el martes una nueva forma de administrar de manera más eficiente su creciente historial de chat de ChatGPT: una función de búsqueda para la aplicación web. Con él, podrás sacar rápidamente a la luz referencias y chats anteriores para citar dentro de tu conversación actual de ChatGPT.

"Estamos comenzando a implementar la capacidad de buscar en su historial de chat en la web de ChatGPT", anunció la compañía a través de una publicación en X (anteriormente Twitter). "Ahora puedes abrir rápida y fácilmente un chat como referencia, o retomar un chat donde lo dejaste".

Leer más
¿Por qué ChatGPT es malo en matemáticas?
ChatGPT buscador

Cualquier usuario asiduo de ChatGPT sabe que el modelo de lenguaje amplio de OpenAI es malo en matemáticas. Sí, claro que resolverá problemas simples como una resta, pero cuando le pides una operación relativamente básica como una multiplicación con cifras medianamente grandes, ChatGPT comienza a mostrar sus carencias. ¿Por qué ChatGPT es malo en matemáticas? Hay varias razones, pero también algunas soluciones que podrían resultar interesantes desde un punto de vista de desarrollo que vamos a tratar de explicar.
Es que las matemáticas no son lo suyo

Hay varias razones que explican por qué ChatGPT es malo en matemáticas. Quizá la más importante es el tipo de material con el que ha sido entrenado: internet. Nos explicamos. ChatGPT es un modelo de lenguaje amplio (large language model o LLM por sus siglas en inglés) diseñado para generar conversaciones similares a las que tendrían dos humanos. Para lograr esta característica fue entrenado con técnicas de deep learning, es decir, ChatGPT “aprende” de patrones y estructuras de millones de textos disponibles en internet. Con esa “fuente de conocimiento” genera respuestas relevantes según el contexto en el que se le pregunta.

Leer más