Видеокарта NVIDIA H100 SXM
Общие характеристики:
- Архитектура: NVIDIA Hopper
- Память: 80GB HBM3
- Форм‑фактор: SXM
- Сценарии: обучение LLM, HPC
22 года продаем серверы в России
Новое и оригинальное оборудование
Собственный склад серверов и опций
Обязательное тестирование до отгрузки
Профессиональная техническая поддержка
Обзор
Характеристики
Исключительная производительность, масштабируемость и безопасность для любого центра обработки данных
Графический процессор NVIDIA H100 обеспечивает исключительную производительность, масштабируемость и безопасность для любых рабочих нагрузок. H100 использует революционные инновации на основе архитектуры NVIDIA Hopper™ для создания передового в отрасли разговорного ИИ, ускоряя обработку больших языковых моделей (LLM) в 30 раз. H100 также включает в себя выделенный движок Transformer Engine для решения языковых моделей с триллионом параметров.
Трансформационное обучение ИИ
H100 оснащен тензорными ядрами четвертого поколения и процессором Transformer Engine с точностью FP8, обеспечивающим до 4 раз более быстрое обучение по сравнению с предыдущим поколением для моделей GPT-3 (175B). Сочетание NVLink четвертого поколения, обеспечивающего скорость соединения между графическими процессорами до 900 гигабайт в секунду (ГБ/с); сетевой технологии NDR Quantum-2 InfiniBand, ускоряющей обмен данными между всеми графическими процессорами на разных узлах; PCIe Gen5; и программного обеспечения NVIDIA Magnum IO™ обеспечивает эффективную масштабируемость от небольших корпоративных систем до масштабных унифицированных кластеров графических процессоров.
Память GPU
Пропускная способность памяти GPU:
Декодеры
7 JPEG
Максимальная тепловая мощность (TDP)
Технология Multi-Instance GPU (MIG)
Форм-фактор
Интерфейс
PCIe Gen5: 128 ГБ/с
Варианты серверов
NVIDIA DGX H100 с 8 графическими процессорами
NVIDIA AI Enterprise.
Производительность
FP64 Tensor Core: 67 teraFLOPS
FP32: 67 teraFLOPS
TF32 Tensor Core: 989 teraFLOPS
BFLOAT16 Tensor Core: 1,979 teraFLOPS
FP16 Tensor Core: 1,979 teraFLOPS
FP8 Tensor Core: 3,958 teraFLOPS
INT8 Tensor Core: 3,958 TOPS
Рейтинг
Среднее значение рейтинга
Количество голосов
Нужно больше информации?
Оставьте заявку — эксперт Itelon свяжется с вами в течение 15 минут и поможет подобрать решение под вашу задачу

