Что такое MRDIMM (Multi-Capacity Rank Dual In-Line Memory Modules) и почему об этой памяти столько говорят

В последние годы развитие вычислительных систем всё больше упирается не в скорость процессоров, а в возможности подсистемы памяти. Искусственный интеллект, облачные сервисы, большие базы данных и аналитика в реальном времени требуют одновременно высокой пропускной способности и большой емкости оперативной памяти. Классические модули DDR5 уже не всегда способны удовлетворить эти запросы без увеличения количества слотов и усложнения архитектуры серверов.

Решением этой проблемы стала технология MRDIMM (Multi-Capacity Rank Dual In-Line Memory Modules) — новый тип модулей, способный существенно увеличить объем и скорость передачи данных на каждый слот, при этом сохраняя совместимость с существующей инфраструктурой DDR5. В этой статье мы разберём, как работает MRDIMM, в чём её преимущества и какие серверы уже поддерживают этот стандарт.

Во всем виноват искусственный интеллект

Искусственный интеллект сделал память главным ограничением серверов. Производительность ИИ сегодня упирается не только в терафлопсы GPU, а в то, насколько быстро и сколько данных мы можем подать ускорителям. Нужны сразу две вещи: высокая пропускная способность (скорость обмена с памятью) и большая ёмкость (объём, в который помещается рабочий набор модели).

Чем больше и сложнее модель, тем выше требования к обеим метрикам. За несколько лет LLM выросли с десятков до сотен миллиардов параметров и даже триллиона. Это мгновенно раздувает рабочий набор — из десятков гигабайт в сотни и более — и требует всё более «широкого» канала к DRAM.

На графике видно: чтобы держать даже умеренную скорость инференса, точки для Llama, GPT-3, Turing и Megatron последовательно смещаются вправо и вверх — растут и емкость, и необходимая пропускная способность, причём счёт идёт на сотни и тысячи гигабайт в секунду.

Когда память не успевает, GPU простаивают, а добавление новых ускорителей почти не помогает — узкое место остаётся в подаче данных.

В типичном конвейере ИИ путь данных начинается в дата-центре и заканчивается на периферии — филиальных серверах (edge), в офисных ПК и даже смартфонах.

Сначала наборы данных хранятся и готовятся в оперативной памяти сервера (обычно порядка 1 ТБ), затем на этапе обучения рост требований взлетает: системе нередко нужно ~2–8 ТБ «обычной» DDR-памяти плюс память GPU около 1 ТБ, чтобы постоянно подгружать параметры без простаивания ускорителей. Чем выше пропускная способность и емкость DRAM, тем крупнее модель можно уместить, тем быстрее проходят эпохи обучения и тем качественнее итоговые результаты — а значит, быстрее появляется готовая модель для инференса и её можно развернуть на краю сети. Именно DDR здесь — критически важный «транспорт»: она буферизует датасеты, кормит GPU нужными порциями и определяет общий темп всего процесса.

На переднем крае ИИ одинаково критичны два слоя памяти: сверхбыстрая HBM у GPU и системная DDR у CPU. Модели растут, им нужно одновременно больше объема и большей скорости доступа к данным. Но у серверов есть «жёсткая физика»: число слотов под DIMM ограничено разводкой и размещением на системной плате — бесконечно добавлять модули нельзя. Значит, каждый установленный модуль должен приносить больше гигабайт и больше гигабайт-в секунду.

Эту проблему обостряют современные облачные нагрузки и «стена памяти». Количество ядер у процессоров быстро растёт, а пропускная способность памяти масштабируется не так быстро. На графике ниже видно типичную картину: при средней загрузке CPU около 60 % канал памяти уже забит примерно на 85 % — вычисления упираются в MemBW, а не в ядра.

Переход с DDR4 на DDR5 дал прирост полосы, но его «съедают» накладные расходы (стоимость, энергопотребление) и задержки контроллеров; линейного выигрыша не получается. При этом ключевая метрика для дата-центров — соотношение производительности к совокупной стоимости владения (Perf/TCO), поэтому важно не городить новую экзотику, а опираться на уже отлаженную инфраструктуру DDR5, чтобы быстрее выводить решения на рынок.

Отсюда и внимание к новым типам модулей: индустрии нужны способы одновременно нарастить объем и ускорить доступ. Один из самых обсуждаемых ответов — MRDIMM (Multi-Capacity Rank Dual In-Line Memory Modules): подход, обещающий поднять и ёмкость, и эффективную скорость DRAM без перестройки софта. Они дают больше пропускной способности и ёмкости на каждый слот, при этом используют те же кристаллы DDR5 и существующую инфраструктуру серверов, улучшая Perf/TCO без капитальной переделки платформ.

Что такое MRDIMM?

MRDIMM расшифровывается как Multi-Capacity Rank Dual In-Line Memory Modules. Это тип модулей памяти, созданный для повышения производительности и эффективности серверов и систем дата-центров. В отличие от традиционных DIMM (обычно применяемых в серверах, настольных ПК и ноутбуках, с контактами по обеим сторонам планки), MRDIMM используют несколько рангов в одном модуле, что даёт большую емкость и пропускную способность памяти. Такая архитектура позволяет лучше задействовать каналы памяти, сохраняя преимущества форм-фактора DIMM, снижает узкие места и повышает общую производительность системы.

Ключевые инновации MRDIMM

• Параллельная активация DRAM. MRDIMM позволяет активировать и обслуживать парами ранги DRAM в параллельном режиме. Это играет ключевую роль в росте пропускной способности данных.
• Мультиплексирование потоков данных. За счет мультиплексирования MRDIMM фактически удваивает скорость передачи на каждый сигнальный пин. Пример: MRDIMM-12800 выдаёт 12 800 MT/s, используя кристаллы DDR5, работающие на 6 400 MT/s.
• Большая емкость. В отличие от обычных модулей, MRDIMM поддерживает более двух рангов DRAM, что позволяет экономично увеличивать объем памяти.

В DDR5 ранг можно грубо определить как две группы микросхем памяти, к которым обращаются одновременно как к двум 32-битным структурам данных в подканале (sub-channel), чтобы в сумме получить 64-битную ширину данных. Каждый ранг состоит из множества внутренних банков микросхем, к которым можно последовательно обращаться на высокой скорости. Это позволяет процессорам вроде Intel Xeon или AMD EPYC быстро считывать 64 байта данных с DIMM с 64-битной шиной данных.

Благодаря одновременной работе двух рангов MRDIMM способны передавать в CPU 128 байт данных — вдвое больше, чем обычные модули DDR5 DIMM.

Это повышает скорость DRAM с 4 800 MT/s(*) у распространенных реализаций DDR5 до 8 800 MT/s. Разумеется, по мере роста скоростей DDR5 этот показатель тоже будет расти и, как правило, оставаться примерно вдвое выше скорости DDR5. По ожиданиям JEDEC, MRDIMM поколения Gen1 обеспечат 8 800 MT/s, Gen2 — 12 800 MT/s, а Gen3, вероятно появятся лишь в следующем десятилетии, — 17 600 MT/s. 

(*) MT/s (mega transfers per second) — это миллион передач по 8 байт (поскольку DDR5 имеет 64-битную шину) в секунду. Память на 4 800 MT/s способна передавать около 36 ГБ/с, а на 8 800 MT/s — около 67 ГБ/с.

Кроме того, модули MRDIMM увеличенной высоты (TFF, Tall Form Factor) сохраняют ту же распиновку и ширину, что и стандартные MRDIMM, но выше, чтобы разместить больше микросхем памяти. Это позволяет увеличить ёмкость без добавления дополнительных слотов памяти. Обратите внимание: TFF-модули подходят только для серверов форм-фактора 2U и выше.

Стандартные и высокие (Tall Form Factor) модули MRDIMM

Новые компоненты MRDIMM

• MRCD (Multiplexing Registering Clock Driver). Расширяет функции стандартного RCD: принимает интерливированный поток команд DRAM с удвоенной относительно RDIMM скоростью, деинтерливирует его и корректно направляет на выходы, соответствующие конкретным рангам.
• MDB (Multiplexing Data Buffer). На модуль приходится 10 таких микросхем. Они выполняют мульти/демультиплексирование, преобразуя 16-битный интерфейс DRAM, работающий на «родной» частоте DRAM, в 8-битный хост-интерфейс, работающий вдвое быстрее. MDB также обеспечивают развязку нагрузки для контроллера/CPU — это критично, чтобы нарастить число рангов и общую емкость модуля.
• PMIC 5030 (микросхема управления питанием). Из-за параллельной активации рангов и добавления новых микросхем суммарное энергопотребление модуля выше, чем у типичного RDIMM. Новый PMIC 5030 рассчитан на требуемую мощность высокополосного/высокоемких DIMM и обеспечивает стабильное питание.

Поддержка процессорами

Важно учитывать, что поддержка MRDIMM должна быть реализована на уровне процессора, чтобы сервер мог работать с такими модулями. Серверы на базе процессоров Intel Xeon 6 с производительными ядрами (P-cores) поддерживают MRDIMM уже у многих производителей таких как Dell, HPE, Lenovo. Ожидается, что будущие процессоры AMD также будут поддерживать этот тип памяти, но на момент подготовки статьи сама AMD публично критикует MRDIMM как неоптимальный путь (ставка на 12 каналов DDR5).

Чем MRDIMM отличается от чередования памяти (memory interleaving)?

Может возникнуть вопрос, чем это отличается от интерливинга (чередования) памяти. Interleaving выполняет часть процесса адресации одновременно на нескольких модулях DIMM, экономя время, однако операции чтения/записи всё равно должны завершать вторую часть цикла адресации для каждого отдельного DIMM.

Например, система памяти с четырехкратным чередованием и 64-битной шиной может читать или записывать четыре 64-битных блока данных — по одному с каждого из четырех DIMM — в быстрой последовательности, но это по-прежнему последовательная обработка. MRDIMM, напротив, считывают банки одновременно и отправляют данные к процессору через высокоскоростной мультиплексор (также называемый буфером данных). Хотя итоговая передача всё ещё выполняется последовательно, она заметно быстрее по сравнению со стандартным переносом данных у обычного DDR5 DIMM.

Преимущества MRDIMM

Увеличенная емкость. MRDIMM объединяют несколько рангов в одном модуле, заметно повышая объем памяти на слот. Это особенно важно для задач с большим «следом» в памяти — аналитики больших данных и сложных моделирований. Максимизируя объём на каждый DIMM, системы достигают большей общей емкости без добавления слотов, что помогает сохранять компактность и эффективность архитектуры.

Повышенная производительность. Многоранговая конструкция MRDIMM улучшает параллелизм доступа: система может читать и писать данные из нескольких рангов одновременно, уменьшая задержки и повышая пропускную способность. Приложения работают быстрее и стабильнее — это критично для потоковой обработки данных в реальном времени и высокочастотной алгоритмической торговли.

Оптимальная эффективность. MRDIMM лучше загружают каналы памяти, повышая общую эффективность системы. Для достижения заданной емкости требуется меньше модулей, что снижает энергопотребление и операционные расходы. Меньше модулей — меньше тепла и требования к охлаждению, что особенно важно для крупных дата-центров.

Масштабируемость. По мере роста бизнеса и объёмов данных возможность наращивать память без серьезной перестройки инфраструктуры становится ключевой. MRDIMM дают простой путь апгрейда: поддерживая более высокие емкости, они позволяют расширять ресурсы памяти в пределах существующих платформ.

Области применения MRDIMM

MRDIMM особенно полезны в средах высокопроизводительных вычислений, где критичны как пропускная способность, так и задержки. Они позволяют серверам эффективнее обрабатывать большие наборы данных, что делает их оптимальными для приложений вроде крупномасштабных баз данных, виртуализации и аналитики в реальном времени.

HPC (высокопроизводительные вычисления). Научные симуляции, финансовое моделирование и сложная аналитика требуют большой памяти и высокой полосы. MRDIMM обеспечивают нужную пропускную способность и емкость, сокращая время расчётов и повышая точность результатов.

Виртуализация и облака. MRDIMM позволяют размещать больше виртуальных машин на хост, что важно для провайдеров и корпоративных платформ. Рост емкости и полосы памяти дает каждой VM стабильную работу с минимальными задержками.

Крупные базы данных. Современным (включая in-memory и системы для аналитики в реальном времени) нужны большие объёмы оперативной памяти. MRDIMM расширяют такие базы без опоры на более медленные дисковые уровни, ускоряя запросы и обработку данных.

ИИ/ML. Обучение моделей — задача с высокими требованиями к объему памяти. MRDIMM позволяют держать в памяти большие датасеты, ускоряя обучение и давая возможность работать с более сложными моделями — это повышает точность и итоговую эффективность систем ИИ.

Серверы с поддержкой MRDIMM у ведущих производителей

Dell: PowerEdge R770 – первый сервер Dell на платформе Intel Xeon 6 (P-core). Благодаря процессорам Xeon 6700/6500 (P-core), PowerEdge R770 способен работать с модулями MRDIMM DDR5, обеспечивая скорость обмена данными до 8800 MT/s.

HPE: ProLiant Compute XD230 – 1U сервер HPE Gen12, оснащенный двумя процессорами Intel Xeon 6. Официально заявлено, что эта модель поддерживает 24 модуля MRDIMM DDR5 (вместо обычных RDIMM) с частотой обмена до 8800 MT/s. В спецификациях подчеркнуто, что MRDIMM снимает узкие места по пропускной способности памяти, ускоряя HPC-задачи.

Huawei / xFusion: xFusion FusionServer 2288 V8 – двухпроцессорный 2U-сервер нового поколения, основанный на Intel Xeon 6. Эти новейшие CPU стали первыми, кто работает с MRDIMM-памятью для повышения производительности. В результате сервер FusionServer V8 (ранее линейка Huawei, теперь бренд xFusion) готов к установке MRDIMM-модулей DDR5, что практически удваивает пропускную способность памяти по сравнению с RDIMM (с 6400 до 8800 MT/s). Также поддержка MRDIMM заявлена у FusionServer 5288 V8 — до 32 MRDIMM 8000 MT/s.

Lenovo: ThinkSystem SR650 V4 – современный 2U-рековый сервер Lenovo на базе Intel Xeon 6 (P-core). Компания официально подтверждает, что серверы ThinkSystem V4 (включая SR650 V4 и SR630 V4) поддерживают MRDIMM наряду с обычной DDR5-памятью. В частности, TruDDR5 MRDIMM модули ёмкостью до 256 ГБ могут устанавливаться (до 16 шт. в двухпроцессорной конфигурации) для достижения более высокой пропускной способности – вплоть до 8000 MT/s.

ASUS: ASUS RS920Q-E12 – высокоплотный 2U сервер (4 узла) на базе Intel Xeon 6900 (P-core) от ASUS. В пресс-релизе ASUS отмечено, что RS920Q-E12 поддерживает новейшие MRDIMM Gen1 модули: в конфигурации 2U/4-узла можно установить до 96 DIMM-модулей, включая MRDIMM, с максимальной скоростью 8800 MT/s. Это делает сервер готовым для сверхтребовательных HPC-нагрузок, выигрывающих от удвоенной пропускной способности памяти.

Gigabyte: Gigabyte R284-A91 – 2U двухсокетный сервер Gigabyte, построенный на Intel Xeon 6900 (P-core). Его официальные спецификации прямо указывают поддержку MRDIMM: всего 24 слота DIMM (по 12 на CPU) могут быть заполнены модулями MRDIMM. При установке MRDIMM сервер R284-A91 достигает скорости памяти до 8800 MT/s (для 1 DIMM на канал), тогда как с обычными RDIMM ограничен 6400 MT/s. (Примечание: MRDIMM поддерживается только в конфигурации 1 DPC на процессорах Xeon 6 P-core.)

Supermicro: Supermicro X14 – общее обозначение нового поколения серверов Supermicro на базе Intel Xeon 6900 (P-core). В январе 2025 г. Supermicro объявила о начале поставок этих серверов с поддержкой высокоскоростной памяти MRDIMM. Все двухсокетные системы Supermicro X14 (включая линейки Hyper, GrandTwin, Blade и т.д.) могут работать с MRDIMM модулями DDR5, достигая скорости до 8800 MT/s. Например, материнская плата Supermicro X14 для Blade-сервера (модель B14SBE-CPU-AP) оснащена 12 слотами DIMM и рассчитана на установку до 3 ТБ MRDIMM (DDR5-8800) на один сокет.

Заключение

MRDIMM — это прагматичный способ пробить «стену памяти» без капитальной перестройки платформ: модули дают больше пропускной способности и емкости в каждом слоте, оставаясь в экосистеме DDR5 и улучшая Perf/TCO. Для дата-центров это означает возможность держать в ОЗУ больший рабочий набор и быстрее «кормить» CPU/GPU, что напрямую ускоряет ИИ-нагрузки, виртуализацию, базы данных и HPC.

Технологически MRDIMM удваивают эффективную скорость передачи данных на пин и уже в первом поколении выходят на 8 800 MT/s (с дорожной картой до 12 800 и 17 600 MT/s), а в исполнении Tall Form Factor позволяют нарастить объем без добавления слотов (требуется шасси 2U+). При этом важно учитывать поддержку на уровне платформы: сегодня она заявлена для серверов на Intel Xeon 6 (P-cores), а у AMD ожидается в следующих поколениях. Это делает MRDIMM естественным выбором для новых инсталляций и плановых апгрейдов там, где упираются в MemBW и объём на слот.