Видеокарта Intel Intel Gaudi3

Intel Gaudi 3 — это ИИ-ускоритель, предназначенный для задач машинного обучения, инференса и обработки больших языковых моделей (LLM). Он представляет собой развитие линейки ускорителей, разработанных Habana Labs, которую Intel приобрела несколько лет назад

Gaudi 3 сочетает в себе две 5-нанометровые вычислительные матрицы, произведённые на мощностях TSMC. Ускоритель использует гетерогенную архитектуру, которая включает матричные математические движки (MME) и тензорные процессорные ядра (TPC). Он поддерживает современные типы данных для глубокого обучения: FP32, TF32, BF16, FP16 и FP8.

Ключевые особенности:

• Масштабируемость. Благодаря 24 портам Ethernet 200 Гбит/с каждый, ускоритель позволяет гибко масштабировать кластеры — от одной стойки до систем с тысячами узлов.
• Интеграция с экосистемой Intel. Gaudi 3 совместим с процессорами Xeon Scalable, что обеспечивает высокую производительность и надёжность в корпоративных системах. Программная поддержка. Программное обеспечение Gaudi интегрировано с фреймворком PyTorch, что упрощает разработку и развёртывание моделей. Также поддерживается доступ к тысячам моделей на платформе Hugging Face.
• Ускоритель ориентирован на центры обработки данных, где требуется высокая энергоэффективность и плотность вычислений