Видеокарта AMD Instinct MI350X
Общие характеристики:
- Архитектура: AMD Instinct MI350 series (CDNA)
- Память: 288GB HBM3e
- Форм‑фактор: OAM
- Сценарии: обучение/инференс
LLM,
HPC
Цена по запросу
Под заказ
-
1 год гарантии
-
Бесплатная доставка по России
22 года продаем серверы в России
Наше юридическое лицо работает с 2004 года
Новое и оригинальное оборудование
С гарантией и от проверенных поставщиков
Собственный склад серверов и опций
Замена по гарантии в течение нескольких дней
Обязательное тестирование до отгрузки
Надежная защита от заводского брака
Профессиональная техническая поддержка
Библиотеки актуального firmware и драйверов
Обзор
Характеристики
Графические процессоры AMD Instinct™ MI350X обеспечивают лидирующую производительность в области искусственного интеллекта и высокопроизводительных вычислений для инфраструктур центров обработки данных
ИИ-ускоритель нового поколения на AMD CDNA™ 4-го поколения, предназначенный для обучения масштабных языковых моделей (LLM) и высокопроизводительных вычислений. Он оснащен 288 ГБ памяти HBM3e с пропускной способностью 8 ТБ/с, что обеспечивает до 4 раз более высокую производительность ИИ по сравнению с предыдущими поколениями.
Ключевые характеристики MI350X:
- Архитектура: AMD CDNA™ 4-го поколения
- Память: 288 ГБ HBM3e с пропускной способностью 8 ТБ/с
- Производительность: Оптимизирован для FP8/MXFP4, значительно ускоряя инференс
- Энергопотребление: До 1000 Вт
- Интерконнект: AMD Infinity Fabric™ Link (поддержка UBB 2.0)
- Поддержка: Платформа разработана для работы с серверными стойками высокой плотности (до 64 ускорителей)
Архитектура
4‑е поколение CDNA (CDNA 4)
Техпроцесс
техпроцесс TSMC 3 нм (для вычислительных чиплетов XCD) и 6 нм (для чиплетов ввода-вывода IOD).
Вычислительные блоки
CU (Compute Units): 256 блоков.
Потоковые процессоры: 16 384.
Матричные ядра: 1 024
Потоковые процессоры: 16 384.
Матричные ядра: 1 024
Память
Объем: 288 ГБ новейшей памяти HBM3e
Пропускная способность: До 8 ТБ/с
Шина памяти: 8192-бит
Infinity Cache: 256 МБ
Пиковая производительность
:
FP16/BF16 (Matrix): 2,3 PFLOPS (4,6 PFLOPS при разреженности/sparsity).
FP8/MXFP8 (Matrix): 4,6 PFLOPS (9,2 PFLOPS при разреженности).
FP6/MXFP6 и FP4/MXFP4: До 9,2 PFLOPS.
FP64/FP32 (Matrix/Vector): 72,1 TFLOPS (FP64) / 144,2 TFLOPS (FP32)
FP16/BF16 (Matrix): 2,3 PFLOPS (4,6 PFLOPS при разреженности/sparsity).
FP8/MXFP8 (Matrix): 4,6 PFLOPS (9,2 PFLOPS при разреженности).
FP6/MXFP6 и FP4/MXFP4: До 9,2 PFLOPS.
FP64/FP32 (Matrix/Vector): 72,1 TFLOPS (FP64) / 144,2 TFLOPS (FP32)
Энергопотребление (TDP)
TDP/TBP: 1000 Вт
Интерфейс и интерконнект
FP4, FP6, MXFP4, MXFP6, INT8, OCP‑FP8, FP16, BF16, FP64
Охлаждение
Infinity Fabric Links: 7 каналов со скоростью до 153,6 ГБ/с каждый (двунаправленных).
Хост-интерфейс: PCIe 5.0 x16 (128 ГБ/с)
Хост-интерфейс: PCIe 5.0 x16 (128 ГБ/с)
Рейтинг
Среднее значение рейтинга
Количество голосов
Нужно больше информации?
Оставьте заявку — эксперт Itelon свяжется с вами в течение 15 минут и поможет подобрать решение под вашу задачу
