Мікрон представила першу у світі пам’ять LPDDR‑SOCAMM2 об’ємом 256 ГБ, ідеальну для ШІ.

Мікрон запускає новий тип пам’яті для дата‑центрів

Компанія Micron представила у світі перший модуль оперативної пам’яті LPDRAM SOCAMM2 об’ємом 256 ГБ, спеціально створений для високопродуктивних центрів обробки даних і задач штучного інтелекту.

Що нового?
Параметр | Традиційна пам'ять | LPDRAM SOCAMM2
---|---|---
Енергоспоживання | – втричі нижче |
Розмір модуля | – компактний, побудований з монолітних кристалів 32 Гбіт |
Пропускна здатність | – підвищена для інференсу ШІ |
Затримка | – суттєво скорочена |

При роботі на восьми‑канальному процесорі та 2 ТБ загальної пам’яті швидкість запуску моделей ШІ (час до першого токену) зростає більш ніж у дві й піврази.

Кому це потрібно?
Модуль орієнтований на:

- виведення великих мовних моделей;
- будь-які робочі навантаження, де критичні об’єм пам’яті, пропускна здатність і затримка;
- сценарії, коли частину KV‑кешу можна выгружати з відеопам’яті в більш економічну системну пам’ять без втрати продуктивності.

Форм-фактор і співпраця
SOCAMM2 – компактний варіант формату RDIMM, але з меншим енергоспоживанням. Розробка пам’яті проходила спільно з Nvidia, що підкреслює її придатність для GPU‑акселерації ШІ.

Таким чином, Micron пропонує ефективне рішення для дата‑центрів, дозволяючи скоротити витрати на енергію і простір, одночасно покращуючи продуктивність навантажень ШІ.