Skip to main content

¿Cuánta plata cuesta cada consulta qué haces a ChatGPT?

Un nuevo informe afirma saber cuánto cuesta ejecutar ChatGPT por día, incluido cuánto cuesta aproximadamente cada consulta. El popular chatbot de texto a voz podría haber desencadenado una revolución de IA en noviembre de 2022, pero ha demostrado ser extremadamente costoso de mantener.

El nuevo informe proviene de Dylan Patel, analista jefe de la firma de investigación SemiAnalysis, quien dice que cuesta aproximadamente $ 700,000 por día, o 36 centavos por consulta, mantener el chatbot en funcionamiento.

Es tan caro, de hecho, que Microsoft podría estar desarrollando sus propios chips de IA patentados para ayudar en el mantenimiento de la operación de OpenAI de ChatGPT, según Windows Central.

El sitio web de ChatGPT en la pantalla de una computadora portátil mientras la computadora portátil se sienta en un mostrador frente a un fondo negro.
Airam Dato-on/Pexels

Además de alcanzar rápidamente los 100 millones de usuarios activos en enero, una hazaña que las marcas tecnológicas tardaron años en lograr, ChatGPT ha luchado con problemas de alto tráfico y capacidad que ralentizan y bloquean sus servidores. La compañía intentó remediar esto introduciendo un nivel pagado de ChatGPT Plus, que cuesta $ 20 por mes, sin embargo, no se sabe cuántos usuarios se suscriben a la opción paga.

OpenAI actualmente utiliza GPU Nvidia para mantener no solo sus propios procesos de ChatGPT, sino también los de las marcas con las que se asocia. Los analistas de la industria esperan que la compañía probablemente requiera 30,000 GPU adicionales de Nvidia para mantener su rendimiento comercial solo durante el resto de 2023.

Con Microsoft como uno de sus principales colaboradores e inversores, OpenAI podría estar buscando a la marca tecnológica para ayudar en el desarrollo de hardware para reducir el costo de las operaciones de ChatGPT. Según Windows Central, Microsoft ya tiene este chip de IA en proceso. Con nombre en código Athena, actualmente se está probando internamente con los propios equipos de la marca. Se espera que el chip se introduzca el próximo año para los servicios Azure AI de Microsoft.

No se sabe cómo o cuándo el chip se filtrará a OpenAI y ChatGPT, pero la suposición es que lo hará. La conexión proviene del hecho de que ChatGPT es compatible con los servicios de Azure. El chip de IA podría no reemplazar completamente las GPU Nvidia, pero podría ayudar a disminuir la demanda del hardware, reduciendo así el costo de ejecutar ChatGPT, agregó Windows Central.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
La actualización de ChatGPT finalmente rompe la barrera del texto

OpenAI está implementando nuevas funcionalidades para ChatGPT que permitirán que las indicaciones se ejecuten con imágenes y directivas de voz además de texto.

La marca AI anunció el lunes que pondrá estas nuevas características a disposición de los usuarios de ChatGPT Plus y Enterprise durante las próximas dos semanas. La función de voz está disponible en iOS y Android en una capacidad opcional, mientras que la función de imágenes está disponible en todas las plataformas ChatGPT. OpenAI señala que planea expandir la disponibilidad de las imágenes y las funciones de voz más allá de los usuarios pagos después del lanzamiento escalonado.
Twitter/X
El chat de voz funciona como una conversación auditiva entre el usuario y ChatGPT. Presionas el botón y dices tu pregunta. Después de procesar la información, el chatbot le da una respuesta en el habla auditiva en lugar de en el texto. El proceso es similar al uso de asistentes virtuales como Alexa o Google Assistant y podría ser el preámbulo de una renovación completa de los asistentes virtuales en su conjunto. El anuncio de OpenAI se produce pocos días después de que Amazon revelara una característica similar que llegará a Alexa.

Leer más
George R.R Martin demanda a OpenAI por ChatGPT
george rr martin confirma paralizacion spin off game of thrones geekblast r menina e o dragao

El autor de Game of Thrones, George R.R Martin, junto con el escritor John Grisham están demandando al propietario de ChatGPT, OpenAI.

¿El motivo de la demanda?: el autor de la Canción de Hielo y Fuego sostiene que usaron sus textos para entrenar al sistema de IA.

Leer más
Meta está trabajando en una IA que dice es más potente que GPT-4
Mark Zuckerberg Meta

El propietario de Facebook, Meta, está trabajando en un sistema de inteligencia artificial (IA) que espera sea más poderoso que GPT-4, el modelo de lenguaje grande desarrollado por OpenAI que impulsa ChatGPT Plus. Si tiene éxito, eso podría agregar mucha más competencia al mundo de los chatbots generativos de IA, y potencialmente traer consigo una serie de problemas graves.

Según The Wall Street Journal, Meta apunta a lanzar su nuevo modelo de IA en 2024. Según los informes, la compañía quiere que el nuevo modelo sea "varias veces más poderoso" que Llama 2, la herramienta de inteligencia artificial que lanzó en julio de 2023.
Brett Johnson / Unsplash
Meta planea que el próximo sistema de IA "ayude a otras compañías a crear servicios que produzcan texto, análisis y otros resultados sofisticados", afirma The Wall Street Journal. El entrenamiento para la IA comenzará a principios de 2024, y se espera un lanzamiento oficial en algún momento después de que Google lance su propio modelo de lenguaje grande, denominado Gemini.

Leer más