Micron представила первую в мире память LPDDR‑SOCAMM2 объёмом 256 ГБ, идеальную для ИИ.

Micron запускает новый тип памяти для дата‑центров

Компания Micron представила в мире первый модуль оперативной памяти LPDRAM SOCAMM2 объёмом 256 ГБ, специально созданный для высокопроизводительных центров обработки данных и задач искусственного интеллекта.

Что нового?

При работе на восьми‑канальном процессоре и 2 ТБ общей памяти, скорость запуска моделей ИИ (время до первого токена) возрастает более чем в две с половиной раза.

Кому это нужно?

Модуль ориентирован на:
- вывод больших языковых моделей;
- любые рабочие нагрузки, где критичны объём памяти, пропускная способность и задержка;
- сценарии, когда часть KV‑кеша можно выгружать из видеопамяти в более экономичную системную память без потери производительности.

Формфактор и сотрудничество

SOCAMM2 – компактный вариант формата RDIMM, но с меньшим энергопотреблением. Разработка памяти проходила совместно с Nvidia, что подчёркивает её пригодность для GPU‑акселерации ИИ.

Таким образом, Micron предлагает эффективное решение для дата‑центров, позволяющее сократить затраты на энергию и пространство, одновременно улучшая производительность ИИ‑загрузок.