Skip to main content

¿Cuánta plata cuesta cada consulta qué haces a ChatGPT?

Un nuevo informe afirma saber cuánto cuesta ejecutar ChatGPT por día, incluido cuánto cuesta aproximadamente cada consulta. El popular chatbot de texto a voz podría haber desencadenado una revolución de IA en noviembre de 2022, pero ha demostrado ser extremadamente costoso de mantener.

El nuevo informe proviene de Dylan Patel, analista jefe de la firma de investigación SemiAnalysis, quien dice que cuesta aproximadamente $ 700,000 por día, o 36 centavos por consulta, mantener el chatbot en funcionamiento.

Es tan caro, de hecho, que Microsoft podría estar desarrollando sus propios chips de IA patentados para ayudar en el mantenimiento de la operación de OpenAI de ChatGPT, según Windows Central.

El sitio web de ChatGPT en la pantalla de una computadora portátil mientras la computadora portátil se sienta en un mostrador frente a un fondo negro.
Airam Dato-on/Pexels

Además de alcanzar rápidamente los 100 millones de usuarios activos en enero, una hazaña que las marcas tecnológicas tardaron años en lograr, ChatGPT ha luchado con problemas de alto tráfico y capacidad que ralentizan y bloquean sus servidores. La compañía intentó remediar esto introduciendo un nivel pagado de ChatGPT Plus, que cuesta $ 20 por mes, sin embargo, no se sabe cuántos usuarios se suscriben a la opción paga.

OpenAI actualmente utiliza GPU Nvidia para mantener no solo sus propios procesos de ChatGPT, sino también los de las marcas con las que se asocia. Los analistas de la industria esperan que la compañía probablemente requiera 30,000 GPU adicionales de Nvidia para mantener su rendimiento comercial solo durante el resto de 2023.

Con Microsoft como uno de sus principales colaboradores e inversores, OpenAI podría estar buscando a la marca tecnológica para ayudar en el desarrollo de hardware para reducir el costo de las operaciones de ChatGPT. Según Windows Central, Microsoft ya tiene este chip de IA en proceso. Con nombre en código Athena, actualmente se está probando internamente con los propios equipos de la marca. Se espera que el chip se introduzca el próximo año para los servicios Azure AI de Microsoft.

No se sabe cómo o cuándo el chip se filtrará a OpenAI y ChatGPT, pero la suposición es que lo hará. La conexión proviene del hecho de que ChatGPT es compatible con los servicios de Azure. El chip de IA podría no reemplazar completamente las GPU Nvidia, pero podría ayudar a disminuir la demanda del hardware, reduciendo así el costo de ejecutar ChatGPT, agregó Windows Central.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Apple finalmente tiene una forma de derrotar a ChatGPT
apple cambia navegacion web iphone navegaci  n

Yugandhar Bonde / Pexels
OpenAI debe tener cuidado porque Apple finalmente puede subirse al carro de la IA, y la noticia no es un buen augurio para ChatGPT. Según los informes, Apple está trabajando en un modelo de lenguaje grande (LLM) conocido como ReALM, que significa Resolución de referencia como modelado de lenguaje. Hecho para darle un impulso a Siri y ayudarlo a comprender el contexto, el modelo viene en cuatro variantes, y Apple afirma que incluso su modelo más pequeño funciona a un nivel similar al ChatGPT de OpenAI.

Esta tentadora información proviene de un documento de investigación de Apple, compartido por primera vez por Windows Central, y parece ser un primer vistazo a lo que Apple ha estado cocinando desde hace un tiempo. ReALM es el propio LLM de Apple que, según se informa, se creó para mejorar las capacidades de Siri; Estas mejoras incluyen una mayor capacidad para comprender el contexto de una conversación.

Leer más
Así será la versión extra gratuita de ChatGPT
¿Qué es ChatGPT? Cómo usar el chatbot del que todo el mundo habla.

Una versión aún más extra gratuita de ChatGPT está debutando desde este 1 de abril, ya que a partir de hoy en algunos mercados y extendiéndose gradualmente al resto del mundo, visitar chat.openai.com ya no te pedirá que inicies sesión, aunque aún puedes hacerlo si lo deseas. En su lugar, se le permitirá entablar una conversación con ChatGPT, que utilizará el mismo modelo que los usuarios registrados.

Por supuesto, esta versión será incluso más limitada que la edición gratis a la que se accede con registro, y tendrá algunas diferencias sustanciales:

Leer más
Mistral AI: así es la inteligencia artificial que busca desplazar a ChatGPT
El logotipo de Mistral AI.

Es poco probable que en tu día a día no oigas hablar sobre inteligencia artificial y ChatGPT, una plataforma con la que puedes crear textos listos para publicarse en internet o mejorar una página web. Sin embargo, que ChatGPT sea la inteligencia artificial por antonomasia no significa que no existan otras plataformas, y una de ellas es Mistral AI.

Mistral AI es una startup francesa y es la responsable de Mistral Large, un modelo de lenguaje que presume ofrecer mejores resultados que Claude 2, Gemini Pro, de Google y LLaMA, de Meta. Claro, esas son las mediciones ofrecidas por Mistral AI, sin embargo, si eres un entusiasta de los modelos de lenguaje de inteligencia artificial, no pierdes nada con probar algunas de las opciones de código abierto de Mistral AI: Mistral 7B, que acepta prompts en inglés y en código, y Mistral 8x7B, compatible con prompts en inglés, francés, italiano, alemán, español y en código.

Leer más