Un nuevo informe afirma saber cuánto cuesta ejecutar ChatGPT por día, incluido cuánto cuesta aproximadamente cada consulta. El popular chatbot de texto a voz podría haber desencadenado una revolución de IA en noviembre de 2022, pero ha demostrado ser extremadamente costoso de mantener.
El nuevo informe proviene de Dylan Patel, analista jefe de la firma de investigación SemiAnalysis, quien dice que cuesta aproximadamente $ 700,000 por día, o 36 centavos por consulta, mantener el chatbot en funcionamiento.
Es tan caro, de hecho, que Microsoft podría estar desarrollando sus propios chips de IA patentados para ayudar en el mantenimiento de la operación de OpenAI de ChatGPT, según Windows Central.
Además de alcanzar rápidamente los 100 millones de usuarios activos en enero, una hazaña que las marcas tecnológicas tardaron años en lograr, ChatGPT ha luchado con problemas de alto tráfico y capacidad que ralentizan y bloquean sus servidores. La compañía intentó remediar esto introduciendo un nivel pagado de ChatGPT Plus, que cuesta $ 20 por mes, sin embargo, no se sabe cuántos usuarios se suscriben a la opción paga.
OpenAI actualmente utiliza GPU Nvidia para mantener no solo sus propios procesos de ChatGPT, sino también los de las marcas con las que se asocia. Los analistas de la industria esperan que la compañía probablemente requiera 30,000 GPU adicionales de Nvidia para mantener su rendimiento comercial solo durante el resto de 2023.
Con Microsoft como uno de sus principales colaboradores e inversores, OpenAI podría estar buscando a la marca tecnológica para ayudar en el desarrollo de hardware para reducir el costo de las operaciones de ChatGPT. Según Windows Central, Microsoft ya tiene este chip de IA en proceso. Con nombre en código Athena, actualmente se está probando internamente con los propios equipos de la marca. Se espera que el chip se introduzca el próximo año para los servicios Azure AI de Microsoft.
No se sabe cómo o cuándo el chip se filtrará a OpenAI y ChatGPT, pero la suposición es que lo hará. La conexión proviene del hecho de que ChatGPT es compatible con los servicios de Azure. El chip de IA podría no reemplazar completamente las GPU Nvidia, pero podría ayudar a disminuir la demanda del hardware, reduciendo así el costo de ejecutar ChatGPT, agregó Windows Central.
