Samsung HBM3 Icebolt - 24 Гбит

HBM3 высокой плотности для ИИ и экзамасштабных вычислений

Samsung HBM3 Icebolt 24 Гбит — это высокоскоростная память нового поколения, разработанная для ускорителей ИИ, гипермасштабных центров обработки данных и передовых высокопроизводительных вычислительных платформ. Основанная на архитектуре TSV (Through-Silicon Via), она увеличивает плотность каждого кристалла, сохраняя при этом сверхвысокую пропускную способность и улучшенную энергоэффективность.

Плотность 24 Гбит позволяет увеличить общую емкость стека при конфигурации в многослойных стеках HBM3, поддерживая крупномасштабное обучение моделей ИИ, научное моделирование и интенсивные по данным вычислительные среды с использованием графических процессоров.

Технический обзор

• Тип памяти: HBM3
• Плотность кристалла: 24 Гбит DRAM
• Конфигурация стека: до 12 слоев
• Ширина интерфейса: 1024-бит
• Скорость передачи данных: до 6,4 Гбит/с на контакт
• Пропускная способность: до 819 ГБ/с на стек (зависит от конфигурации)
• Защита от ошибок: Расширенная внутрикристальная ECC (ODECC)

Работая со скоростью до 6,4 Гбит/с на контакт через 1024-битный интерфейс, HBM3 Icebolt обеспечивает пропускную способность до 819 ГБ/с на стек. Этот уровень пропускной способности поддерживает высокоскоростную память для ускорителей ИИ и крупномасштабных кластеров графических процессоров, где устойчивое перемещение данных имеет решающее значение.

Масштабирование плотности для передовых рабочих нагрузок ИИ

Благодаря плотности кристалла 24 Гбит, HBM3 Icebolt обеспечивает большую эффективную емкость стека по сравнению с предыдущими реализациями 16 Гбит. В 12-слойных конфигурациях стека общая емкость памяти значительно увеличивается без ущерба для пропускной способности.

Более высокая плотность улучшает локальность данных и уменьшает узкие места в памяти при обучении больших языковых моделей, генеративных рабочих нагрузках ИИ, финансовом моделировании и экзамасштабных вычислительных системах.

Повышенная энергоэффективность

HBM3 Icebolt внедряет архитектурные оптимизации, которые повышают энергоэффективность примерно на 10% по сравнению с предыдущими поколениями HBM. Усовершенствованная маршрутизация сигналов и улучшенное распределение питания снижают энергию на переданный бит, поддерживая стабильную работу в развертываниях памяти графических процессоров в центрах обработки данных.

Повышенная надежность

Усовершенствованный механизм On-Die ECC поддерживает коррекцию более широких многобитовых ошибок, помимо коррекции одиночных битов, используемой в более ранних решениях HBM. Это повышает долгосрочную стабильность в серверах обучения ИИ, кластерах высокопроизводительных вычислений и средах устойчивого вывода.

Номера деталей

• KHBAC4A03D-MC1H
• KHBAC4A03C-MC1H

Часто задаваемые вопросы

В1: Является ли Samsung HBM3 Icebolt 24 Гбит модулем памяти?
Нет. Это стек-компонент DRAM, предназначенный для интеграции на кремниевые интерпозеры внутри графических процессоров и ускорителей ИИ. Это не DIMM или подключаемый модуль памяти.

В2: Что означает 24 Гбит?
24 Гбит относится к плотности хранения данных на кристалле. Когда несколько кристаллов вертикально уложены в стек, общая емкость памяти на стек HBM3 соответственно увеличивается.

В3: Какие системы обычно используют HBM3 Icebolt 24 Гбит?
Платформы ускорителей ИИ, гипермасштабная облачная инфраструктура графических процессоров, экзамасштабные вычислительные системы и передовые высокопроизводительные вычислительные кластеры.