Видеокарта NVIDIA H100 NVL
Общие характеристики:
- Архитектура: NVIDIA Hopper
- Память: 94GB HBM3
- Форм‑фактор: NVL (PCIe + NVLink)
- Сценарии: инференс/обучение LLM
Цена:
-
1 год гарантии
-
Бесплатная доставка по России
22 года продаем серверы в России
Новое и оригинальное оборудование
Собственный склад серверов и опций
Обязательное тестирование до отгрузки
Профессиональная техническая поддержка
Готовые модели
Обзор
Характеристики
Видеокарта NVIDIA H100 NVL
H100 80GB HBM2e, PCIe Gen5 (x16), Full-height, full-length (FHFL) 10.5”, dual-slot, Passive, 300-350W
1 год гарантии
Бесплатная доставка по России
Исключительная производительность, масштабируемость и безопасность для любого центра обработки данных
Графический процессор NVIDIA H100 обеспечивает исключительную производительность, масштабируемость и безопасность для любых рабочих нагрузок. H100 использует революционные инновации на основе архитектуры NVIDIA Hopper™ для создания передового в отрасли разговорного ИИ, ускоряя обработку больших языковых моделей (LLM) в 30 раз. H100 также включает в себя выделенный движок Transformer Engine для решения языковых моделей с триллионом параметров.
Трансформационное обучение ИИ
H100 оснащен тензорными ядрами четвертого поколения и процессором Transformer Engine с точностью FP8, обеспечивающим до 4 раз более быстрое обучение по сравнению с предыдущим поколением для моделей GPT-3 (175B). Сочетание NVLink четвертого поколения, обеспечивающего скорость соединения между графическими процессорами до 900 гигабайт в секунду (ГБ/с); сетевой технологии NDR Quantum-2 InfiniBand, ускоряющей обмен данными между всеми графическими процессорами на разных узлах; PCIe Gen5; и программного обеспечения NVIDIA Magnum IO™ обеспечивает эффективную масштабируемость от небольших корпоративных систем до масштабных унифицированных кластеров графических процессоров.
Память GPU
Пропускная способность памяти GPU:
Декодеры
7 JPEG
Максимальная тепловая мощность (TDP)
Multi-Instance GPU (MIG)
Форм-фактор
двухслотовый с воздушным охлаждением
Интерфейс
PCIe Gen5: 128 ГБ/с
Варианты серверов
NVIDIA AI Enterprise.
Производительность
FP64 Tensor Core: 60 teraFLOPs
FP32: 60 teraFLOPs
TF32 Tensor Core: 835 teraFLOPs
BFLOAT16 Tensor Core: 1,671 teraFLOPS
FP16 Tensor Core: 1,671 teraFLOPS
FP8 Tensor Core: 3,341 teraFLOPS
INT8 Tensor Core: 3,341 TOPS
Рейтинг
Среднее значение рейтинга
Количество голосов
Нужно больше информации?
Оставьте заявку — эксперт Itelon свяжется с вами в течение 15 минут и поможет подобрать решение под вашу задачу
