Micron presentó la primera memoria LPDDR‑SOCAMM2 del mundo con una capacidad de 256 GB, ideal para IA.

Micron lanza un nuevo tipo de memoria para centros de datos

La compañía Micron presentó al mundo el primer módulo de memoria RAM LPDRAM SOCAMM2 de 256 GB, especialmente diseñado para centros de datos de alto rendimiento y tareas de inteligencia artificial.

¿Qué hay de nuevo?
Parámetro Memoria tradicional LPDRAM SOCAMM2
Consumo energético – tres veces menor Tamaño del módulo – compacto, construido con cristales monolíticos de 32 Gb Ancho de banda – aumentado para inferencia IA Latencia – significativamente reducida

Al trabajar en un procesador de ocho canales y 2 TB de memoria total, la velocidad de inicio de modelos de IA (tiempo hasta el primer token) aumenta más del doble y medio.

¿Para quién es útil?
El módulo está orientado a:

- Desplegar grandes modelos lingüísticos;
- Cualquier carga de trabajo donde el volumen de memoria, ancho de banda y latencia sean críticos;
- Escenarios en los que parte de la caché KV se pueda descargar de la memoria gráfica a una memoria del sistema más económica sin pérdida de rendimiento.

Factor de forma y colaboración
SOCAMM2 es una variante compacta del formato RDIMM, pero con menor consumo energético. El desarrollo de la memoria se realizó conjuntamente con Nvidia, lo que subraya su idoneidad para la aceleración GPU de IA.

Así, Micron ofrece una solución eficiente para centros de datos, permitiendo reducir costos de energía y espacio, mientras mejora el rendimiento de cargas de IA.