Micron ha presentato la prima memoria LPDDR‑SOCAMM2 al mondo da 256 GB, ideale per l'IA.

Micron lancia un nuovo tipo di memoria per i data center

L’azienda Micron ha presentato al mondo il primo modulo di memoria RAM LPDRAM SOCAMM2 da 256 GB, appositamente progettato per centri dati ad alte prestazioni e applicazioni di intelligenza artificiale.

Cosa c’è di nuovo?
Parametro Memoria tradizionale LPDRAM SOCAMM2
Consumo energetico – tre volte inferiore 
Dimensione del modulo – compatto, costruito con cristalli monolitici da 32 Gb 
Larghezza di banda – aumentata per l’inferenza IA 
Ritardo – notevolmente ridotto

Sulla configurazione a processore ad otto canali e 2 TB di memoria totale, la velocità di avvio dei modelli IA (tempo fino al primo token) aumenta più che due volte e mezza.

Per chi è utile?
Il modulo è pensato per:

- l’implementazione di grandi modelli linguistici;
- qualsiasi carico di lavoro in cui volume di memoria, larghezza di banda e ritardo sono critici;
- scenari in cui parte della cache KV può essere spostata dalla memoria video a una più economica memoria di sistema senza perdita di prestazioni.

Formato e collaborazione
SOCAMM2 è un’opzione compatta del formato RDIMM, ma con minore consumo energetico. Lo sviluppo della memoria è stato realizzato in collaborazione con Nvidia, evidenziando la sua idoneità per l’accelerazione GPU dell’IA.

In questo modo Micron offre una soluzione efficiente per i data center, consentendo di ridurre costi energetici e spazi occupati, migliorando al contempo le prestazioni dei carichi IA.