HBM4 - новое поколение памяти для искусственного интеллекта и HPC

HBM4 - новое поколение высокоскоростной памяти High Bandwidth Memory, созданное прежде всего для ИИ-ускорителей, HPC-систем и других вычислительных платформ, которым требуется передавать огромные объёмы данных между памятью и вычислительными блоками. В отличие от обычной DDR или GDDR, здесь производители делают ставку не столько на экстремальную частоту отдельных микросхем, сколько на очень широкий интерфейс и параллельную передачу данных.

Переход от HBM3E к HBM4 оказался особенно важен на фоне роста генеративного ИИ. Современные ускорители способны выполнять колоссальное количество операций, но вычислительные блоки бесполезны, если память не успевает снабжать их данными. Поэтому пропускная способность памяти постепенно превращается в один из главных факторов производительности AI-систем.

К 2026 году HBM4 уже вышла за пределы экспериментальных образцов. SK hynix сообщила о начале массовых поставок во втором квартале 2026 года, а Micron указывает HBM4 среди актуальных решений для нового поколения AI- и HPC-систем.

Что такое HBM4

HBM расшифровывается как High Bandwidth Memory, то есть память с высокой пропускной способностью. Её главное отличие от привычной оперативной и видеопамяти заключается в компоновке. Вместо размещения нескольких отдельных микросхем вокруг процессора кристаллы DRAM складываются друг над другом, формируя компактный стек.

Такая конструкция позволяет разместить большое количество памяти рядом с GPU или специализированным ИИ-ускорителем и соединить её чрезвычайно широким интерфейсом. В HBM4 количество линий ввода-вывода увеличено до 2048 против 1024 у предыдущего поколения. Благодаря этому производители могут существенно наращивать пропускную способность без необходимости просто удваивать рабочую частоту памяти. Micron для своей HBM4 заявляет более 2,8 ТБ/с на один стек.

Как устроена память HBM

Основой HBM служат несколько кристаллов DRAM, расположенных вертикально. Для связи между слоями используются TSV - Through-Silicon Via, микроскопические проводящие соединения, которые проходят непосредственно через кремниевые кристаллы.

В нижней части стека находится базовый кристалл, отвечающий за взаимодействие памяти с остальной системой. В HBM4 его роль стала ещё важнее: архитектура развивается в сторону более тесной интеграции памяти с логикой конкретного ускорителя.

Сам стек располагается максимально близко к вычислительному чипу. За счёт небольшой длины соединений и огромного числа параллельных линий HBM способна передавать значительно больше данных при сравнительно умеренных частотах.

Это принципиально отличается от GDDR, где отдельные микросхемы памяти размещаются вокруг GPU на печатной плате и подключаются через более узкую шину. Такой подход дешевле и хорошо подходит для игровых видеокарт, тогда как HBM оптимизирована для систем, где пропускная способность и энергоэффективность важнее стоимости упаковки.

Почему появилась HBM4

Главная причина появления HBM4 - стремительный рост требований искусственного интеллекта к подсистеме памяти. Увеличиваются размеры моделей, объём обрабатываемых данных и количество вычислительных блоков внутри ускорителей. В результате производительность всё чаще ограничивается не способностью GPU выполнять вычисления, а скоростью доставки данных.

HBM3E значительно увеличила пропускную способность относительно ранних поколений HBM, однако развитие AI-ускорителей потребовало следующего шага. В HBM4 интерфейс расширили вдвое - до 2048 каналов ввода-вывода. SK hynix также заявляет более чем двукратный рост пропускной способности и улучшение энергоэффективности свыше 40% для своей реализации нового поколения.

Для дата-центров последний показатель особенно важен. Чем больше данных приходится перемещать между памятью и вычислительными блоками, тем больше энергии расходуется не только на сами вычисления, но и на передачу информации. Поэтому HBM4 должна не просто сделать ИИ-ускорители быстрее - она позволяет увеличивать их производительность без столь же резкого роста затрат энергии на подсистему памяти.

Главные характеристики HBM4

HBM4 получила главное архитектурное изменение за несколько последних поколений High Bandwidth Memory - ширина интерфейса увеличилась в два раза. Одновременно производители продолжают повышать скорость передачи данных на каждый контакт, поэтому итоговая пропускная способность одного стека выросла особенно заметно.

При этом характеристики HBM4 нельзя свести к одной скорости или объёму. Стандарт задаёт основу архитектуры, а Samsung, SK hynix и Micron выпускают собственные реализации с разными рабочими частотами, ёмкостью и энергопотреблением.

Интерфейс на 2048 линий

HBM3E использует интерфейс шириной 1024 бита, тогда как у HBM4 память получила 2048 линий ввода-вывода. По сути, за один такт между памятью и ускорителем может передаваться вдвое больше данных.

Это позволяет увеличивать пропускную способность не только за счёт роста частоты. Для высокопроизводительных вычислений такой подход выгоден ещё и потому, что экстремальное повышение частоты обычно приводит к дополнительному энергопотреблению и усложняет охлаждение.

Все крупнейшие производители HBM4 используют новый 2048-битный интерфейс. Например, SK hynix сообщает о более чем 2,5-кратном росте пропускной способности относительно предыдущего поколения своей памяти.

Пропускная способность HBM4

Конкретная HBM4 скорость памяти зависит от производителя. Micron выпускает HBM4 со скоростью более 11 Гбит/с на контакт, что обеспечивает свыше 2,8 ТБ/с пропускной способности одного стека. Для HBM3E этого производителя показатель превышает 1,2 ТБ/с.

Samsung заявляет ещё более высокое значение - до 3,3 ТБ/с на стек. По данным компании, это примерно в 2,7 раза больше пропускной способности её HBM3E.

Разница между этими цифрами не означает, что существует несколько несовместимых вариантов HBM4. Производители работают в рамках одного поколения памяти, но могут превышать базовые требования стандарта и оптимизировать чипы под конкретных заказчиков.

Объём и количество слоёв памяти

Высокая пропускная способность сама по себе не решает проблему больших моделей - ускорителю также требуется достаточно памяти для хранения весов, промежуточных результатов и рабочих данных.

Одним из распространённых вариантов стала 12-слойная HBM4. Например, Micron выпускает конфигурацию 12-Hi объёмом 36 ГБ на один стек. Несколько таких стеков рядом с вычислительным кристаллом позволяют получить сотни гигабайт сверхбыстрой памяти в одном ускорителе.

Следующий этап - 16-слойные конструкции. Samsung планирует использовать 16-Hi HBM4 для увеличения ёмкости одного стека до 48 ГБ, а Micron уже передаёт заказчикам образцы 48-гигабайтной HBM4 16H.

Увеличивать число слоёв бесконечно нельзя. Чем выше стек, тем сложнее обеспечить стабильные TSV-соединения, отвод тепла и приемлемый процент годных кристаллов при производстве.

Энергоэффективность HBM4

Для ИИ-дата-центров энергопотребление памяти становится серьёзной статьёй расходов. Сотни тысяч ускорителей постоянно перемещают огромные массивы данных, поэтому даже небольшое снижение энергии на передачу одного бита даёт заметную экономию в масштабе инфраструктуры.

Micron заявляет более чем 20-процентное улучшение энергоэффективности своей HBM4 относительно HBM3E при сопоставимых условиях. У SK hynix улучшение превышает 40%, а Samsung также сообщает примерно о 40-процентном приросте для собственной реализации.

Производителям приходится одновременно решать и проблему тепла. Удвоение количества линий с 1024 до 2048 означает более сложную электрическую систему, а многослойная конструкция затрудняет отвод тепла от внутренних кристаллов.

HBM4 против HBM3E: основные отличия

Переход между поколениями нельзя описать как обычное повышение частоты памяти. HBM4 против HBM3E отличается прежде всего удвоенной шириной интерфейса, а уже затем повышенной скоростью передачи данных, улучшенной энергоэффективностью и возможностью создавать более ёмкие стеки.

Значения в таблице нельзя воспринимать как жёсткие пределы самого стандарта. Фактические характеристики зависят от производителя, числа слоёв и требований конкретной вычислительной платформы.

Главное изменение хорошо видно на примере Micron: её HBM3E обеспечивает более 1,2 ТБ/с на стек, тогда как HBM4 превышает 2,8 ТБ/с. Рост получается больше двукратного, хотя ёмкость 12-слойного стека в обоих случаях может оставаться равной 36 ГБ.

Поэтому HBM4 в первую очередь ускоряет не хранение данных, а их перемещение между памятью и вычислительными блоками. Для задач, где GPU постоянно ожидает очередную порцию информации, такой прирост способен дать значительно больше пользы, чем простое увеличение вычислительной мощности.

Подробнее о том, почему разные типы видеопамяти настолько сильно отличаются архитектурой и пропускной способностью, можно почитать в материале HBM3 против GDDR6X: будущее видеопамяти NVIDIA и новые стандарты.

Почему HBM4 так важна для искусственного интеллекта

Рост производительности ИИ-ускорителей долгое время ассоциировался прежде всего с количеством вычислительных блоков и количеством операций в секунду. Однако современные системы всё чаще сталкиваются с другой проблемой: GPU способен обработать данные быстрее, чем память успевает их предоставить.

Особенно заметно это при работе больших языковых моделей. Значительная часть времени уходит не только на математические операции, но и на постоянное перемещение весов модели, активаций и данных KV-cache между HBM и вычислительными блоками.

Именно поэтому увеличение пропускной способности памяти становится одним из основных способов дальнейшего ускорения ИИ.

Проблема "голодания" вычислительных блоков

Современный ИИ-ускоритель содержит огромное количество специализированных блоков для матричных операций. Чтобы использовать их полностью, данные должны непрерывно поступать из памяти с достаточной скоростью.

Если память не справляется, часть вычислительных блоков вынуждена ждать. Производительность самого GPU в этот момент может быть очень высокой на бумаге, но использовать её полностью приложение не способно.

Такое ограничение часто называют memory bottleneck или "стеной памяти". Чем быстрее становятся ускорители, тем сильнее проявляется разница между скоростью вычислений и возможностью доставить им данные.

HBM частично решает проблему благодаря чрезвычайно широкой шине. В HBM4 она расширилась до 2048 бит, что дополнительно увеличило количество данных, которые можно одновременно передавать между памятью и ускорителем.

На практике эту тенденцию хорошо показывает NVIDIA Rubin. Один GPU нового поколения получает до 288 ГБ HBM4 и до 22 ТБ/с совокупной пропускной способности памяти. Для Blackwell с HBM3E NVIDIA указывает около 8 ТБ/с, то есть переход к новой подсистеме памяти увеличивает показатель примерно в 2,8 раза.

При этом одна HBM4 не решает все проблемы масштабирования. В системах с тысячами ускорителей также критична скорость обмена между GPU, сетевыми адаптерами и узлами кластера. Подробнее устройство подобных систем разобрано в материале AI Fabric: как строится сеть для обучения нейросетей на тысячах GPU.

Обучение больших моделей

При обучении нейросети ускорителю приходится работать одновременно с весами модели, градиентами, активациями и промежуточными результатами вычислений. Чем крупнее модель, тем больше данных требуется перемещать на каждом этапе обучения.

Недостаточная пропускная способность памяти приводит к ситуации, когда увеличение количества Tensor Cores или других вычислительных блоков перестаёт давать пропорциональный прирост скорости.

HBM4 помогает уменьшить этот разрыв. Более широкий интерфейс позволяет быстрее передавать большие массивы данных и лучше загружать вычислительную часть ускорителя.

Важна и ёмкость. Чем больше данных удаётся разместить непосредственно в HBM, тем реже системе требуется обращаться к более медленной памяти другого уровня или распределять отдельные части модели между большим количеством ускорителей.

Однако HBM4 не означает, что огромную нейросеть теперь обязательно можно хранить целиком на одном GPU. Современные модели могут содержать сотни миллиардов и даже триллионы параметров, поэтому распределённое обучение и высокоскоростные соединения между ускорителями остаются необходимыми.

Инференс и длинный контекст

Ещё сильнее преимущества высокой пропускной способности проявляются во время инференса - когда уже обученная модель отвечает пользователю.

Генерация текста происходит последовательно: модель создаёт токен, затем использует предыдущий контекст для вычисления следующего. Чтобы не пересчитывать одни и те же данные при каждом шаге, применяют KV-cache - кэш ключей и значений механизма Attention.

Чем длиннее диалог или документ, тем больше становится этот кэш. Он занимает место в HBM и постоянно считывается во время генерации новых токенов.

NVIDIA прямо называет фазу генерации, или decode, ограниченной подсистемой памяти. При длинном контексте и больших KV-cache скорость реального доступа к памяти становится одним из ключевых факторов производительности.

Поэтому дополнительные гигабайты HBM позволяют хранить более крупный контекст и обслуживать больше запросов одновременно, а высокая пропускная способность помогает быстрее обрабатывать сохранённые данные.

Показательно, что оптимизация самого KV-cache способна заметно менять производительность. NVIDIA отмечает, что уменьшение его объёма снижает нагрузку на пропускную способность HBM и позволяет увеличить длину контекста и размер пакета запросов.

Получается, что для современных LLM важны сразу два параметра HBM4. Ёмкость определяет, сколько данных можно держать рядом с GPU, а пропускная способность - насколько быстро ускоритель сможет этими данными воспользоваться.

Где уже используется HBM4

HBM4 создавалась не как память для массовых домашних компьютеров, а как компонент нового поколения ИИ-ускорителей и суперкомпьютерных систем. В 2026 году технология уже перешла от тестовых образцов к серийному производству: Samsung, SK hynix и Micron наращивают выпуск памяти для производителей вычислительных платформ.

Одним из первых крупных продуктов, архитектура которого изначально рассчитана на HBM4, стала NVIDIA Vera Rubin. Именно на таких ускорителях хорошо видно, зачем индустрии понадобился столь резкий рост пропускной способности памяти.

NVIDIA Vera Rubin

GPU Rubin получает до 288 ГБ HBM4 и совокупную пропускную способность памяти до 22 ТБ/с. Для сравнения, NVIDIA указывает около 8 ТБ/с у поколения Blackwell с HBM3E. Таким образом, пропускная способность подсистемы памяти увеличивается примерно в 2,8 раза.

Такой прирост нужен не только для обучения всё более крупных моделей. NVIDIA отдельно делает акцент на agentic AI, длинном контексте и высоконагруженном инференсе, где ускорителю приходится постоянно обращаться к большим объёмам информации в памяти.

При этом рост с 8 до 22 ТБ/с обеспечивается не одним сверхбыстрым стеком. В ускорителе используется несколько стеков HBM4, работающих параллельно. Поэтому пропускная способность отдельной микросборки и всей подсистемы памяти GPU - разные показатели.

Предыдущее поколение ускорителей и роль HBM3E подробнее разобраны в материале NVIDIA B200 и архитектура Blackwell: новый стандарт ИИ-ускорителей.

Samsung, SK hynix и Micron

Рынок HBM фактически сосредоточен вокруг нескольких крупнейших производителей памяти, и все три основных игрока уже работают с HBM4.

Samsung сообщила о начале массового производства и поставок HBM4 в феврале 2026 года. Во втором квартале компания продолжила увеличивать продажи нового поколения и одновременно отправила заказчикам первые образцы HBM4E.

SK hynix начала массовые поставки HBM4 во втором квартале 2026 года и планирует увеличивать производство во второй половине года. Компания также уже передала клиентам образцы следующей HBM4E.

Micron выпускает 36-гигабайтную HBM4 12H серийно. Её решение работает со скоростью более 11 Гбит/с на контакт и обеспечивает свыше 2,8 ТБ/с на один стек. Параллельно компания начала предоставлять заказчикам образцы 48-гигабайтной 16-слойной версии.

Конкуренция между производителями поэтому постепенно смещается от самого факта наличия HBM4 к скорости, энергоэффективности, высоте стеков и возможности создавать специализированные решения под конкретные ИИ-ускорители.

Почему HBM4 не заменит обычную DDR и GDDR

При характеристиках HBM4 может показаться, что такая память со временем должна появиться во всех компьютерах и заменить DDR или GDDR. На практике эти технологии решают разные задачи.

Оперативная DDR устанавливается на отдельные модули и позволяет сравнительно дёшево получать десятки или сотни гигабайт памяти. Пользователь может заменить модуль или увеличить её объём без замены процессора.

GDDR ориентирована прежде всего на графические процессоры. Микросхемы располагаются рядом с GPU на печатной плате, обеспечивая высокую скорость при значительно более простой конструкции, чем HBM. Именно поэтому GDDR7 остаётся подходящим вариантом для игровых и профессиональных видеокарт.

HBM требует гораздо более сложной упаковки. Несколько кристаллов DRAM необходимо собрать в вертикальный стек, соединить через TSV и разместить максимально близко к вычислительному чипу. Кроме производства самой памяти усложняется корпусирование всего ускорителя.

Стоимость такой системы оправдана там, где пропускная способность непосредственно влияет на экономику вычислений. Если ИИ-кластер выполняет миллионы запросов или месяцами обучает модель, более дорогая память может окупаться благодаря увеличению производительности и снижению энергозатрат.

В игровом компьютере ситуация другая. Большинству GPU не требуется десятки терабайт в секунду пропускной способности памяти, а дополнительная цена сложной упаковки сделала бы видеокарту заметно дороже.

Поэтому HBM4, DDR5/DDR6 и GDDR7 не являются прямыми конкурентами. HBM развивается в сторону специализированных ускорителей, DDR - системной оперативной памяти, а GDDR остаётся компромиссом между стоимостью и высокой производительностью графических устройств.

Что будет после HBM4

Следующим этапом уже становится HBM4E - улучшенная версия архитектуры HBM4. Причём в 2026 году она существует не только в планах производителей.

SK hynix в июне передала крупным заказчикам образцы 12-слойной HBM4E. Компания заявляет максимальную скорость до 16 Гбит/с на контакт, а энергоэффективность должна вырасти более чем на 20% относительно предыдущих решений.

Samsung также сообщила о поставках первых образцов HBM4E крупным клиентам во втором квартале 2026 года.

Направление развития уже просматривается достаточно чётко: производители будут одновременно повышать скорость передачи на контакт, увеличивать количество слоёв и совершенствовать базовый логический кристалл.

Последний пункт особенно важен. HBM постепенно перестаёт быть просто набором DRAM-кристаллов рядом с GPU. Более сложный base die позволяет теснее адаптировать подсистему памяти к архитектуре конкретного ускорителя и эффективнее управлять огромным 2048-битным интерфейсом.

Поэтому после перехода на HBM4 развитие памяти для ИИ всё сильнее будет связано не только с самими DRAM-кристаллами, но и с упаковкой, логикой базового кристалла и совместным проектированием памяти вместе с вычислительным ускорителем.

FAQ

1. Что такое HBM4 простыми словами?
   HBM4 - это четвёртое поколение высокоскоростной памяти High Bandwidth Memory. Её кристаллы располагаются вертикальными слоями рядом с вычислительным процессором и соединяются тысячами проводящих каналов. Такая конструкция позволяет передавать намного больше данных одновременно, чем традиционная память с более узкой шиной.
   Главная особенность HBM4 - интерфейс шириной 2048 бит, вдвое шире 1024-битного интерфейса HBM3E. Именно это стало одной из основных причин резкого роста пропускной способности нового поколения.
2. Насколько HBM4 быстрее HBM3E?
   Это зависит от конкретной реализации. Например, 12-слойная HBM4 от Micron обеспечивает более 2,8 ТБ/с на один стек - примерно в 2,3 раза больше, чем HBM3E компании. При этом объём такого стека остаётся равным 36 ГБ.
   На уровне целого ускорителя разница может быть ещё заметнее. NVIDIA Rubin получает до 22 ТБ/с совокупной пропускной способности HBM4 против примерно 8 ТБ/с у Blackwell с HBM3E.
3. Какая пропускная способность у HBM4?
   Единого значения для всех микросхем HBM4 нет. Характеристики зависят от производителя и конкретной конфигурации памяти.
   Например, Micron заявляет более 11 Гбит/с на контакт и свыше 2,8 ТБ/с на один 12-слойный стек. Благодаря использованию сразу нескольких стеков суммарная пропускная способность подсистемы памяти одного ИИ-ускорителя может достигать десятков терабайт в секунду.
4. Используется ли HBM4 в обычных видеокартах?
   HBM4 в первую очередь предназначена для ИИ-ускорителей, HPC и серверного оборудования. Её вертикальная компоновка и сложная интеграция с вычислительным кристаллом обеспечивают огромную пропускную способность, но одновременно повышают стоимость производства.
   Для массовых игровых видеокарт значительно практичнее остаётся GDDR. Поэтому появление HBM4 в дата-центрах не означает скорый переход потребительских GeForce или Radeon на этот тип памяти.
5. Какие ИИ-ускорители используют HBM4?
   Одной из главных платформ нового поколения стала NVIDIA Vera Rubin. Rubin GPU оснащается до 288 ГБ HBM4 и обеспечивает до 22 ТБ/с пропускной способности памяти. NVIDIA связывает такой рост прежде всего с потребностями современных reasoning- и agentic-моделей, длинными контекстами, крупными KV-cache и высокой нагрузкой при инференсе.
   Память HBM4 для новых вычислительных платформ уже выпускают Micron, Samsung и SK hynix, поэтому по мере появления следующего поколения серверных ускорителей технология будет распространяться значительно шире.

Заключение

HBM4 стала гораздо более серьёзным обновлением, чем обычное увеличение частоты памяти. Главное архитектурное изменение - переход с 1024-битного интерфейса HBM3E на 2048-битный, благодаря чему один стек способен передавать более чем вдвое больше данных.

Для ИИ это особенно важно. Современные ускорители всё чаще ограничены не количеством математических операций, а скоростью перемещения весов моделей, KV-cache и других данных между памятью и вычислительными блоками. Поэтому увеличение производительности GPU без соответствующего развития HBM постепенно теряет эффективность.

HBM4 одновременно увеличивает пропускную способность, сохраняет высокую плотность памяти и улучшает энергоэффективность. Micron уже выпускает 36-гигабайтные 12-слойные стеки с пропускной способностью свыше 2,8 ТБ/с, а NVIDIA Rubin показывает, во что это превращается на уровне целого ускорителя: до 288 ГБ памяти и 22 ТБ/с.

Для обычного ПК переход на HBM4 практически ничего не меняет - DDR и GDDR продолжат развиваться параллельно. Но в ИИ-инфраструктуре баланс уже другой: скорость памяти становится не менее важной характеристикой, чем вычислительная мощность самого ускорителя. Именно поэтому HBM4 превращается в один из ключевых компонентов следующего поколения систем искусственного интеллекта.