Samsung представила zHBM, zNAND-O и V10 BV-NAND для ИИ-инфраструктуры

Так называемая «стена памяти» ИИ становится одним из главных ограничений при выполнении задач инференса. На конференции Future of Memory and Storage Summit 2026 компания Samsung представила сразу несколько технологий, призванных решить эту проблему: новый тип высокоскоростной памяти zHBM, архитектуру флеш-памяти zNAND-O и десятое поколение BV-NAND для SSD.

По мере того как ИИ-индустрия смещает акцент с обучения фундаментальных моделей на их промышленную эксплуатацию, меняются и требования к инфраструктуре. При обучении производительность во многом определяется доступной вычислительной мощностью — большим количеством GPU и других ускорителей, способных параллельно обрабатывать огромные массивы данных. Именно это и стало причиной взрывного роста спроса на ускорители в первые годы ИИ-бума.

Инференс работает иначе. Во многих сценариях его производительность ограничивается уже не количеством вычислительных блоков, а тем, насколько быстро данные можно доставить из памяти в процессор или GPU.

На первом этапе инференса, который называют prefill, большая параллельная вычислительная мощность по-прежнему дает заметное преимущество: модель обрабатывает исходный запрос пользователя и формирует внутреннее представление контекста.

Однако следующий этап — decode, то есть последовательная генерация токенов, — значительно сильнее зависит от пропускной способности памяти. Каждый новый токен генерируется последовательно, поэтому ускорителю необходимо постоянно обращаться к ранее вычисленным данным.

Ключевую роль здесь играет KV-кэш (key-value cache). В идеальном случае он хранится в HBM или DRAM, а при нехватке памяти часть данных может перемещаться на локальные SSD. Чем быстрее модель получает необходимые данные из KV-кэша, тем быстрее пользователь получает результат — будь то генерация изображения, ответ языковой модели или научный прогноз.

Проблема уже хорошо известна отрасли, и разные компании предлагают собственные подходы к ее решению. NVIDIA вместе с производителями систем хранения развивает архитектуры, в которых SSD и бэкенд хранения становятся полноценной частью иерархии памяти для KV-кэша. Другие производители делают ставку на изменения непосредственно на уровне кремния и упаковки чипов.

Samsung относится именно ко второй группе. Компания предлагает активнее использовать трехмерную компоновку памяти, уменьшая физическое расстояние между вычислительными блоками и хранилищем данных.

zHBM

Одной из главных разработок Samsung стала zHBM — новая архитектура High Bandwidth Memory, в которой стек памяти предлагается размещать не рядом с ИИ-ускорителем, а непосредственно над ним.

В современных решениях HBM устанавливается возле GPU или другого ускорителя на общем интерпозере. Samsung хочет использовать вертикальное расположение, чтобы уменьшить расстояние, которое должен проходить сигнал между вычислительной логикой и памятью.

По расчетам компании, это должно одновременно повысить пропускную способность и улучшить энергоэффективность.

Samsung заявляет, что zHBM сможет обеспечить примерно в 4–8 раз более высокую производительность по сравнению с HBM5.

Сам стандарт HBM5 пока находится в разработке. Согласно отраслевым прогнозам, его появление ожидается примерно в 2029 году, а пропускная способность одного стека может достигнуть около 4 ТБ/с. Если оценки Samsung реализуются, для zHBM речь потенциально может идти уже о 16–32 ТБ/с на стек.

Компания также ожидает примерно трехкратного повышения энергоэффективности относительно HBM5 и улучшения теплового сопротивления примерно на 50%.

Для производства zHBM Samsung разрабатывает технологию Hybrid Copper Bonding (HCB) — гибридного соединения с использованием меди. По оценке производителя, она позволит добиться примерно десятикратного роста плотности памяти по сравнению с HBM5.

При этом пока неясно, означает ли такой прирост плотности аналогичное увеличение физической емкости. Площадь непосредственно над вычислительным кристаллом ограничена, поэтому будущие системы потенциально могут сочетать вертикально установленную zHBM с традиционными HBM-стеками, расположенными рядом с ускорителем.

Такой вариант позволил бы дополнительно увеличить объем высокоскоростной памяти для хранения KV-кэша и других данных ИИ-моделей.

zNAND-O

Еще одной разработкой стала zNAND-O, где Samsung также применяет трехмерную компоновку. В этой архитектуре несколько кристаллов V-NAND объединяются вертикально с помощью TSV (Through-Silicon Via).

В традиционных NAND-решениях данные передаются через соединения, расположенные по краям кристалла. Samsung предлагает перенести часть путей передачи непосредственно внутрь структуры с помощью микроскопических каналов, проходящих сквозь кремний и заполненных проводящим материалом, например медью.

Это должно сократить расстояние передачи данных и заметно повысить производительность NAND.

По оценкам Samsung, zNAND-O сможет обеспечить задержки менее 3 микросекунд, а пропускную способность — примерно 200–400 ГБ/с.

При использовании многоуровневой 3D-компоновки этот показатель потенциально может превысить 1 ТБ/с.

Таким образом, подобная память занимает промежуточное положение между традиционной NAND и более дорогой оперативной памятью. Для ИИ-систем это особенно интересно в сценариях, где HBM или DRAM недостаточно для размещения всего рабочего набора данных, но обычный SSD оказывается слишком медленным.

Samsung также рассматривает zNAND-O для клиентских устройств, включая смартфоны. Быстрая локальная NAND может повысить производительность ИИ-моделей непосредственно на устройстве, особенно при работе без подключения к облачным сервисам.

V10 BV-NAND

Третьим крупным анонсом стало десятое поколение BV-NAND.

В V10 BV-NAND Samsung увеличила количество слоев ячеек памяти примерно до 400, тогда как предыдущее поколение V9 поддерживало около 200 слоев.

По данным компании, такое изменение обеспечивает 58-процентный рост битовой плотности NAND.

Одновременно заявлен рост скорости записи примерно на 45%, а производительности интерфейса ввода-вывода — примерно на 33%.

Для достижения этих показателей Samsung также использует новую технологию соединения слоев и компонентов.

Практический результат — возможность создавать SSD большей емкости в тех же физических габаритах, одновременно повышая их производительность.

Это особенно важно для современных дата-центров, где объемы обучающих датасетов, KV-кэшей, мультимедийных данных и других ИИ-нагрузок продолжают быстро увеличиваться.

Samsung делает ставку на третье измерение

Все три технологии — zHBM, zNAND-O и V10 BV-NAND — объединяет общая архитектурная идея.

Samsung называет ее стратегией развития по оси Z: вместо дальнейшего масштабирования памяти только в двух измерениях компания активнее использует вертикальную интеграцию.

Основная задача такого подхода — сократить физическое расстояние между памятью и вычислительными блоками. Чем меньше перемещаются данные, тем ниже задержки и энергопотребление и тем выше потенциальная пропускная способность системы.

Одновременно вертикальная компоновка позволяет разместить больше памяти в ограниченном физическом объеме.

Именно это становится особенно важным для ИИ-инфраструктуры. По мере роста моделей и контекстных окон производительность все чаще определяется не количеством арифметических блоков ускорителя, а способностью всей системы быстро перемещать огромные массивы данных между HBM, DRAM, NAND и вычислительными устройствами.

Поэтому Samsung фактически предлагает решать «стену памяти» сразу на нескольких уровнях: увеличить скорость и плотность HBM возле ускорителя, приблизить производительность NAND к оперативной памяти и одновременно повысить плотность обычных SSD.

Разработки были представлены на FMS 2026 руководителями подразделений памяти Samsung в рамках доклада Driving the Wave of AI Revolution: 3D Innovation in Memory & Storage Architecture.