Lo que necesitas saber
- Un nuevo informe afirma que ChatGPT tiene un costo estimado de $ 700,000 por día para funcionar.
- Se ha rumoreado recientemente que Microsoft está desarrollando sus propios chips de IA.
- El propio chip de Microsoft podría reducir los costos en un tercio o más.
AI está de moda actualmente, con millones de usuarios que utilizan ChatGPT a diario. Con una demanda tan alta, es no sorprende saber que ChatGPT cuesta bastante dinero para funcionar. analista jefe en empresa de investigacion SemianálisisDylan Patel, estima que ChatGPT actualmente le cuesta a OpenAI $700,000 por día, o 36 centavos por consulta.
Eso es mucho dinero, y no ayuda el hecho de que las empresas de IA, incluida Microsoft, necesitan comprar GPU de NVIDIA en pedidos al por mayor para ayudar a mantener sus servicios de IA a medida que la demanda continúa aumentando. Los analistas de la industria estiman que OpenAI podría necesitar pedir 30 000 GPU NVIDIA adicionales este año para ayudar en sus esfuerzos comerciales.
Construir su propio chip de IA puede ayudar a reducir los costos, y eso parece ser exactamente lo que está haciendo Microsoft. El chip de inteligencia artificial de Microsoft tiene el nombre en código Athena, y según los informes, ya se encuentra en un lugar lo suficientemente bueno como para que se esté probando con grupos selectos internamente en Microsoft. La compañía planea distribuir su propio chip de IA entre sus servicios de IA de Azure el próximo año.
Los expertos de la industria dicen que no esperan que Microsoft reemplace directamente a NVIDIA, sino que disminuya su dependencia de ellos. Dado que ChatGPT se ejecuta en los servicios de Azure, la reducción de costos ayudará a OpenAI a ejecutar ChatGPT de manera más económica, así como a otros servicios de IA que eligen Azure como host.
Microsoft ha estado en un impulso agresivo de IA estos últimos meses, después de que Google fallara en el lanzamiento de su propio producto de inteligencia artificial en forma de Bard. Recientemente, los informes indicaron que algunos Los empleados de Google no confían en Bardsintiendo que Google apresuró el producto al mercado en respuesta a los esfuerzos de Bing AI de Microsoft.