Sam Altman: La RAM pertenece a los centros de datos, no a las PCs

Sam Altman: 'Es una lástima que la RAM esté dentro de la computadora del usuario' sintetiza el argumento de OpenAI en contra de ejecutar modelos de IA localmente. El CEO de la empresa dice que la memoria escasa debería servir a los centros de datos en lugar de permanecer sin usar en computadoras personales.

Altman hizo estos comentarios durante una entrevista con el canal de YouTube Cheeky Pint, publicada el 30 de octubre. Respondía a quienes ven los modelos de código abierto ejecutándose en computadoras personales como una forma de reducir la dependencia de servicios en la nube.

Por qué Altman se opone a la inferencia local

La inferencia local ejecuta un modelo de IA entrenado directamente en un dispositivo. El procesamiento puede usar hardware como la CPU, GPU o NPU de una computadora o teléfono, en lugar de enviar datos a servicios en la nube de terceros como ChatGPT y Claude.

Altman argumentó que la IA local deja mucha de la memoria disponible inactiva. Dijo que la RAM limitada se distribuye entre las computadoras de los usuarios aunque se usa solo el 5% del tiempo. En su opinión, concentrar la memoria en centros de datos haría un mejor uso de los recursos globales escasos.

Su posición asume que la construcción y expansión de centros de datos continuarán. También asume que la RAM funcionando continuamente en esas instalaciones proporcionará más valor que la memoria instalada en los dispositivos de los usuarios.

El modelo de negocio de OpenAI está detrás del debate

OpenAI ha lanzado varios modelos de código abierto, pero su negocio principal sigue basándose en modelos cerrados ejecutándose en centros de datos. Eso hace que la inferencia local sea más que una opción técnica: podría afectar cómo los usuarios acceden y pagan por modelos de IA.

Tom's Hardware describió los comentarios de Altman como una defensa del modelo de negocio de OpenAI. Su punto de vista es que las computadoras personales actualmente no amenazan a OpenAI, pero la inferencia local podría reducir lo que los usuarios pagan por modelos como GPT-6 Luna.

La disputa por lo tanto cubre dos enfoques competidores. Los modelos locales mantienen el procesamiento en el hardware de los usuarios. Los modelos en la nube sitúan la computación y la memoria en centros de datos de propiedad del proveedor, donde las empresas pueden gestionar la capacidad compartida y cobrar por el acceso.

La oferta de memoria añade presión

Las empresas de infraestructura de IA están firmando contratos a largo plazo para asegurar suministros de memoria. Micron ha firmado 26 acuerdos estratégicos que cubren más del 35% de sus ingresos proyectados para 2030, con $32 mil millones en depósitos de clientes comprometidos.

Samsung supuestamente está finalizando contratos que cubren el 75–80% de su producción proyectada de chips de memoria para 2027. SK Hynix también está persiguiendo acuerdos similares.

Este ciclo difiere de períodos anteriores de alta demanda de chips. Los fabricantes previamente ampliaron fábricas, luego enfrentaron sobreoferta cuando la demanda se enfrió. Esta vez, han aumentado precios varias veces en lugar de aumentar significativamente la capacidad, manteniendo la oferta por debajo de la demanda y prolongando la presión de precios.

Los analistas esperan que la escasez de chips de memoria dure al menos hasta 2028. Eso da a los fabricantes un mayor poder de negociación mientras las empresas compiten por la producción futura.

Por qué importan los precios de las computadoras

Steve Bonifield de The Verge dijo que el resultado es similar ya sea que Altman se refiriera a las computadoras personales de los usuarios o a dispositivos utilizados por desarrolladores de aplicaciones de IA. En su opinión, miles de millones de dólares gastados por las empresas en pedidos de RAM están ayudando a que las computadoras, teléfonos y otras tecnologías sean más caras.

El argumento hace que esta noticia sea relevante más allá de OpenAI. Conecta la IA local, la computación en la nube, la asignación de memoria y los precios del hardware. Los lectores que pesen los modelos locales contra los servicios en la nube pueden ver claramente el compromiso: la inferencia local usa hardware ya propiedad de los usuarios, mientras que la inferencia en la nube concentra la demanda en centros de datos que ahora compiten agresivamente por memoria escasa.