El CEO de OpenAI, Sam Altman, participó como invitado en el podcast 'Cheeky Pint' del cofundador de Stripe, John Collison, y sostuvo que la inferencia local de IA representa un 'terrible desperdicio de recursos' desde la perspectiva del suministro global de DRAM. Según Altman, los módulos de DRAM en los ordenadores personales permanecen inactivos durante la mayor parte del día (afirmó una tasa de uso del 5 %), por lo que toda la capacidad de producción limitada debería dirigirse a los centros de datos.
Sam Altman: la ejecución local de IA es un 'terrible desperdicio de recursos' para la DRAM
El CEO de OpenAI, Sam Altman, afirmó en el podcast 'Cheeky Pint' de John Collison, cofundador de Stripe, que la ejecución de modelos de código abierto en el hardware propio de los usuarios constituye una distribución ineficiente de recursos en medio de la escasez global de DRAM.
01Sam AltmanOpenAIDRAMIA localescasez de hardwarecomputación en la nubemodelos de código abierto