Skip to main content

ChatGPT: la cantidad de recursos que necesita para funcionar se está saliendo de control

IA generativa ChatGPT.
panumas nikhomkhai / Pexels

No es un secreto que el crecimiento de la IA generativa ha requerido cantidades cada vez mayores de agua y electricidad, dado que la infraestructura necesaria para soportar estas tecnologías implica un uso intensivo de recursos. Sin embargo, un nuevo estudio de The Washington Post e investigadores de la Universidad de California, Riverside, muestra cuántos recursos necesita el chatbot de OpenAI para realizar incluso sus funciones más básicas.

En términos de uso de agua, la cantidad necesaria para que ChatGPT redacte un correo electrónico de 100 palabras depende del estado y de la proximidad del usuario al centro de datos más cercano de OpenAI. Cuanto menos prevalente sea el agua en una región determinada y cuanto más barato sea la electricidad, más probable es que el centro de datos dependa de unidades de aire acondicionado eléctricas. En Texas, por ejemplo, el chatbot solo consume un estimado de 235 mililitros para generar un correo electrónico de 100 palabras. Ese mismo correo redactado en Washington, por otro lado, requeriría 1,408 mililitros (casi un litro y medio) por correo.

Recommended Videos

Los centros de datos se han vuelto más grandes y densamente poblados con el auge de la tecnología de IA generativa, al punto que los sistemas de refrigeración por aire tienen dificultades para mantenerse al día. Por esta razón, muchos centros de datos de IA han cambiado a esquemas de refrigeración líquida que bombean grandes cantidades de agua a través de las pilas de servidores para extraer la energía térmica, y luego la llevan a una torre de refrigeración donde el calor acumulado se disipa.

Los requisitos eléctricos de ChatGPT tampoco son insignificantes. Según The Washington Post, usar ChatGPT para redactar ese correo de 100 palabras consume suficiente energía para operar más de una docena de bombillas LED durante una hora. Si incluso una décima parte de los estadounidenses usara ChatGPT para escribir ese correo una vez a la semana durante un año, el proceso consumiría la misma cantidad de energía que cada hogar de Washington D.C. utiliza en 20 días. D.C. alberga a aproximadamente 670 mil personas.

Este no es un problema que se resolverá pronto, y es probable que empeore antes de mejorar. Meta, por ejemplo, necesitó 22 millones de litros de agua para entrenar sus últimos modelos Llama 3.1. Se descubrió que los centros de datos de Google en The Dalles, Oregon, consumen casi una cuarta parte de toda el agua disponible en la ciudad, según documentos judiciales, mientras que el nuevo supercúmulo de xAI en Memphis ya está exigiendo 150 MW de electricidad —suficiente para abastecer a hasta 30 mil hogares— de la utilidad local, Memphis Light, Gas and Water.

Topics
Karina Tapia
Redes sociales (Facebook, Instagram, TikTok), videojuegos y las últimas tendencias del internet y la industria tecnológica…
Tu historial de conversaciones de ChatGPT ahora se puede buscar
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

IA abierta
OpenAI presentó el martes una nueva forma de administrar de manera más eficiente su creciente historial de chat de ChatGPT: una función de búsqueda para la aplicación web. Con él, podrás sacar rápidamente a la luz referencias y chats anteriores para citar dentro de tu conversación actual de ChatGPT.

"Estamos comenzando a implementar la capacidad de buscar en su historial de chat en la web de ChatGPT", anunció la compañía a través de una publicación en X (anteriormente Twitter). "Ahora puedes abrir rápida y fácilmente un chat como referencia, o retomar un chat donde lo dejaste".

Leer más
¿Por qué ChatGPT es malo en matemáticas?
ChatGPT buscador

Cualquier usuario asiduo de ChatGPT sabe que el modelo de lenguaje amplio de OpenAI es malo en matemáticas. Sí, claro que resolverá problemas simples como una resta, pero cuando le pides una operación relativamente básica como una multiplicación con cifras medianamente grandes, ChatGPT comienza a mostrar sus carencias. ¿Por qué ChatGPT es malo en matemáticas? Hay varias razones, pero también algunas soluciones que podrían resultar interesantes desde un punto de vista de desarrollo que vamos a tratar de explicar.
Es que las matemáticas no son lo suyo

Hay varias razones que explican por qué ChatGPT es malo en matemáticas. Quizá la más importante es el tipo de material con el que ha sido entrenado: internet. Nos explicamos. ChatGPT es un modelo de lenguaje amplio (large language model o LLM por sus siglas en inglés) diseñado para generar conversaciones similares a las que tendrían dos humanos. Para lograr esta característica fue entrenado con técnicas de deep learning, es decir, ChatGPT “aprende” de patrones y estructuras de millones de textos disponibles en internet. Con esa “fuente de conocimiento” genera respuestas relevantes según el contexto en el que se le pregunta.

Leer más
Un investigador hace creer a ChatGPT que tiene 102 años y vive en la Matrix
¿Qué es ChatGPT? Cómo usar el chatbot del que todo el mundo habla.

ChatGPT, el modelo amplio de lenguaje más utilizado y prometedor del mundo, puede usarse para extraer información sensible de un usuario, según reportó a OpenAI el investigador en ciberseguridad Johann Rehberger.

Su hallazgo, contado en un videoblog consignado por  ArsTechnica, es una fuente de preocupación, pues señala que “cada que el usuario inicia una nueva conversación ChatGPT continúa extrayendo información”.

Leer más