Samsung HBM3 Icebolt - 16 Гбит

Высокоскоростная память нового поколения для ИИ и высокопроизводительных вычислений

Samsung HBM3 Icebolt 16 Гбит — это высокоскоростное решение памяти нового поколения, разработанное для ускорителей ИИ, гипермасштабных центров обработки данных и высокопроизводительных вычислительных платформ (HPC). Построенная на усовершенствованной архитектуре сквозных кремниевых соединений (TSV), HBM3 значительно увеличивает плотность полосы пропускания, одновременно повышая тепловую и энергетическую эффективность.

Разработанная для крупномасштабного обучения ИИ и вычислений с интенсивным использованием данных, HBM3 Icebolt обеспечивает более высокие скорости передачи данных на контакт и улучшенную масштабируемость стека по сравнению с предыдущими поколениями HBM.

Технический обзор

• Тип памяти: HBM3
• Плотность кристалла: кристалл DRAM 16 Гбит
• Конфигурация стека: до 12 слоев
• Скорость передачи данных на контакт: до 6,4 Гбит/с
• Пропускная способность: до 819 ГБ/с на стек (в зависимости от конфигурации)
• Ширина интерфейса: 1024 бит
• Защита от ошибок: усовершенствованная встроенная функция исправления ошибок (ODECC)

При скорости 6,4 Гбит/с на контакт через 1024-битный интерфейс HBM3 Icebolt может обеспечивать пропускную способность до 819 ГБ/с на стек. Это делает его хорошо подходящим для высокопроизводительной памяти для ускорителей ИИ, кластеров обучения на базе GPU и эксаскейлинговых вычислительных систем.

Архитектура стека и масштабирование емкости

HBM3 Icebolt объединяет до 12 слоев кристаллов DRAM 16 Гбит класса 10 нм с использованием технологии вертикальных межсоединений TSV. В зависимости от конфигурации стека общая емкость стека может достигать 24 ГБ, увеличивая плотность памяти примерно в 1,5 раза по сравнению с предыдущими поколениями.

Более высокая плотность и более быстрые скорости передачи данных уменьшают узкие места памяти при обучении глубоких нейронных сетей, больших рабочих нагрузках моделирования и расширенных конвейерах анализа данных.

Энергоэффективность

HBM3 Icebolt повышает энергоэффективность примерно на 10% по сравнению с решениями HBM предыдущего поколения. Оптимизированная передача сигналов и усовершенствованная внутренняя маршрутизация снижают энергопотребление на передаваемый бит, помогая снизить общую мощность системы при развертывании памяти GPU в центрах обработки данных.

Повышение надежности

Усовершенствованная реализация встроенной функции исправления ошибок (ODECC) улучшает возможности внутренней коррекции ошибок. В отличие от предыдущих поколений, которые исправляли однобитовые ошибки, HBM3 Icebolt поддерживает коррекцию более широких многобитовых паттернов ошибок, улучшая целостность данных при длительных высокопроизводительных нагрузках.

Номер детали

• KHBA84A03D-MC1H
• KHBA84A03C-MC1H

Часто задаваемые вопросы

В1: Является ли Samsung HBM3 Icebolt 16 Гбит модулем?
Нет. Это компонент стекированной DRAM, предназначенный для интеграции на кремниевых интерпозерах в графических процессорах и ускорителях ИИ. Это не DIMM или подключаемый модуль памяти.

В2: В чем разница между HBM2E и HBM3?
HBM3 увеличивает скорость передачи данных на контакт (до 6,4 Гбит/с против ~3,6 Гбит/с в HBM2E), улучшает масштабируемость стека и повышает надежность механизмов ODECC. Он также обеспечивает значительно более высокую пропускную способность на стек.

В3: Какие системы обычно используют HBM3 Icebolt?
Ускорители обучения ИИ, эксаскейлинговые суперкомпьютеры, гипермасштабные облачные платформы GPU и передовые кластеры HPC.