Серверы Dell PowerEdge под GPU/FPGA/DPU и единый портфель ускорителей — быстрее к наглядной аналитике с AI

Более 77% компаний уже изучают сценарии применения GenAI или заметно инвестируют в эти технологии.

Источник: IDC

В цифровой экономике результат определяется умением работать с большими и быстрыми данными. Но по мере роста массивов данных традиционные ЦОД упираются в пределы по производительности и масштабируемости — особенно при обработке потоков и запросах к данным в реальном времени. Если раньше ускорители применялись в основном для визуализации, моделирования и симуляций, то сегодня всё больше массовых корпоративных задач выигрывают от ускорения: генеративные модели ИИ, обученные и дообученные на данных предприятия, позволяют быстрее извлекать точные прогнозы и делать неожиданные выводы. Ускорители — в первую очередь графические процессоры (GPU) — дополняют CPU и берут на себя параллельные вычисления, обрабатывая большие объемы данных значительно быстрее. Это даёт и экономический эффект: «ускоренные» ЦОД обеспечивают прорывную производительность на меньшем количестве серверов — путь к более быстрым инсайтам и снижению совокупных затрат.

Многие компании из разных отраслей уже используют серверные ускорители, чтобы обгонять конкурентов: уточняют продуктовые и сервисные предложения за счёт персонализированным рекомендациям из массивов данных, повышают продуктивность приложений, оптимизируют операции благодаря быстрым аналитическим воронкам и сокращают время вывода на рынок, делая все это быстрее, чем прежде.

Dell Technologies предлагает выбор серверных ускорителей в линейке Dell PowerEdge, чтобы производительность ваших приложений под конкретные ИИ- и аналитические нагрузки вышла на новый уровень.

Новые и традиционные сценарии применения серверов Dell для искусственного интеллекта (AI)

Генеративный ИИ и большие языковые модели. Ускорители обеспечивают работу трансформеров и технологий обработки языка, благодаря чему системы точнее «понимают» человеческую речь и текст. Такие решения уже объединяют понимание языка, компьютерное зрение и анализ звука, принимают сложные запросы и выдают многомодальные ответы.

Крупномасштабные рекомендательные системы. Ускорители эффективно тянут глубинные модели, которые непрерывно улучшают рекламные и поисковые рекомендации — по уместности и оперативности. Это помогает рекламодателям точнее находить аудиторию и влияет на ранжирование объявлений.

Обработка естественного языка. За счет машинного обучения ускорители повышают скорость настройки систем для анализа устной и письменной речи. Модели извлекают факты и закономерности, осваивают задачи языкового моделирования, синтаксический разбор, рефераты и другие методы синтаксического и семантического анализа на разных языках.

Цифровые двойники. Это виртуальные представления объектов, систем и процессов, синхронизированные с реальными данными. Они используют моделирование, машинное обучение и логические выводы, чтобы помогать в принятии решений. Позволяют «проигрывать» и оптимизировать продукт, людей, оборудование и процессы в реальном времени до запуска в производство.

Машинное и глубинное обучение. Ускорители перевели ИИ из теории в повседневную практику: параллельные вычисления ускоряют и обучение моделей, и их последующее применение.

Ускоренные базы данных. Ускорители заметно повышают скорость агрегирования, сортировок и группировок, разгружая традиционные СУБД при сложной аналитике.

Потоковые данные. «Интернет вещей» генерирует непрерывные потоки событий. Ускорители позволяют одновременно принимать, исследовать и визуализировать такие потоки для анализа в реальном времени.

Визуализация. Ускорители повышают производительность приложений для трехмерной графики — например, систем автоматизированного проектирования. Модели отрисовываются в реальном времени при перемещении и трансформации.

Моделирование и имитация. Ускорители ускоряют раннюю проверку гипотез и быстрые испытания вариантов конструкции, что позволяет провести больше итераций за то же время.

Финансовое моделирование. Высокопроизводительные вычисления и ИИ существенно обновляют инструменты анализа: отрасль использует огромные массивы данных, чтобы лучше оценивать риск и доходность.

Обработка сейсмических данных (нефть и газ). Компании извлекают больше информации из гигантских массивов сейсмики: ускорители сокращают время получения результатов и снижают затраты.

Обработка сигналов. Ускорители позволяют моделировать и анализировать потоки сигналов с компьютеров, радиоканалов, видеосистем и мобильной связи в реальном времени.

Ключевые инновации в серверах для AI

Как видно из приведенных сценариев, дальнейшее внедрение искусственного интеллекта (AI), машинного обучения (ML), высокопроизводительных вычислений (HPC) и виртуализации рабочих мест (VDI) добавляет сложности в работу центров обработки данных и бизнес-процессов — особенно на фоне роста распределенных и удаленных команд и вывода «тяжелых» задач в повседневную практику. Например, ИИ породил широкий спектр новых, максимально адресных решений для заказчиков. Компании автоматизируют множество операций и перераспределяют персонал из одних подразделений в другие — туда, где создается наибольшая ценность.

Выбор графических процессоров (GPU) и других ускоренных архитектур — ключевое решение ИТ-команды. После того как определены подходящие ускорители под конкретные типы нагрузок, формируется стратегия инфраструктуры и подбираются продукты.

Accelerated Insights — передний край инноваций в PowerEdge

Чтобы спроектировать инфраструктуру, которая обеспечит успех в задачах ИИ и других ресурсоемких нагрузках, нужен современный архитектурный подход. Одна из важнейших новаций — рост производительности за счет добавления плотного ускорения на масштабируемой базе. Производительность — это не только «сквозное» решение и стратегия, но и инновации на уровне базовых компонентов: они помогают снижать затраты, усиливать безопасность и оптимизировать тепловые и энергетические характеристики.

В семействе серверов PowerEdge G16 реализован ряд новшеств, дающих скачок производительности: от архитектур, специально спроектированных под ускорители, до термически оптимизированных конструкций. Современные нагрузки требуют компонентов и подсистем более высокого класса, чтобы выполнять вычисления без сбоев.

Подход Adaptive Compute в PowerEdge позволяет создавать серверы, которые извлекают максимум из новейших технологий и дают предсказуемый, экономически оправданный результат. Ниже — некоторые из улучшений в портфеле PowerEdge:

• Акцент на ускорении. Поддержка широкого набора графических ускорителей для максимальной производительности в моделировании и имитации, обучении и применении генеративных и иных моделей ИИ/МО, аналитике и комплексных наборах приложений для совместной работы.
• Продуманная термоконструкция. Новые решения по отводу тепла для плотных, «горячих» конфигураций; в ряде моделей — сквозное воздушное охлаждение «спереди-назад».
• Dell Multi Vector Cooling. Улучшенная аэродинамика внутри сервера: оптимизированные воздушные тракты и управление потоками для эффективного охлаждения.
• Dell Direct Liquid Cooling. Расширение прямого жидкостного охлаждения на большее число серверов PowerEdge и их центральных процессоров для высокоэффективного отвода тепла.

Серверы PowerEdge для ускорения ИИ- и HPC-задач

Dell PowerEdge XE9680

PowerEdge XE9680 создан для извлечения бизнес-инсайтов в самых требовательных задачах глубинного обучения и моделирования — от больших LLM и рекомендательных систем до сложных научных расчётов. Максимальная производительность для HPC и корпоративных вычислений, воздушное охлаждение.

Конфигурации GPU:

• 8× AMD Instinct MI300X (Infinity Fabric)
• 8× Intel Gaudi 3 (RoCE, RDMA over Converged Ethernet)
• 8× NVIDIA H100 (NVLink)
• 8× NVIDIA H200 (NVLink)

Рекомендуемые нагрузки: генеративный ИИ, большие языковые модели, NLP, обучение крупных рекомендательных моделей, молекулярная динамика, геномика, имитационное моделирование.

Dell PowerEdge XE9640

PowerEdge XE9640 извлекает максимум пользы из данных за счёт ускорения ИИ, спроектирован для высокой производительности и быстрого получения результата в 2U-форм-факторе с жидкостным охлаждением.

Конфигурация GPU: 4× NVIDIA H100 (Tensor Core) с NVLink.

Охлаждение: жидкостное охлаждение CPU и GPU (DLC).

Рекомендуемые нагрузки: NLP, обучение крупных рекомендательных моделей, инженерное моделирование и имитация, обучение моделей ИИ/ML/DL для распознавания объектов.

Dell PowerEdge XE8640

PowerEdge XE8640 обеспечивает специально спроектированную производительность в плотном шасси с воздушным охлаждением — для аналитики и ИИ в реальном времени.

Конфигурация GPU: 4× NVIDIA H100 (Tensor Core) с NVLink.

Охлаждение: воздушное + жидкостный радиатор для отвода тепла от CPU/GPU.

Рекомендуемые нагрузки: LLM среднего масштаба, NLP, инженерное моделирование и имитация, ИИ-сервисы, обучение и инференс ML/DL, распознавание изображений.

Dell PowerEdge R760xa

PowerEdge R760xa — гибкий и масштабируемый сервер под ускорители PCIe с процессорами Intel® Xeon® Scalable 4-го/5-го поколения. Оптимизирован под графические ускорители и требовательные профили.

Производительность и масштабируемость: до 12 однослотовых или до 4 двухслотовых ускорителей мощностью до 350 Вт.

Охлаждение: сквозное воздушное (front-to-back), рассчитанное на эффективную работу PCIe-ускорителей.

Совместимые PCIe-ускорители: AMD MI210; Intel Flex 140; NVIDIA H100 NVL, L40S, L40, L4, A16, A2.

Рекомендуемые нагрузки: обучение и инференс ИИ/ML, аналитика данных, HPC, VDI/виртуализация рабочих мест, профессиональная графика.

Серверы для GPU-ускорения: коротко о совместимости

Примечание:

• SXM / OAM — форм-факторы модулей GPU;
• E3.S — тип носителей NVMe;
• DW/SW — двухслотовые/однослотовые платы ускорителей.

PCIe-ускорители (GPU) и DPU для серверов Dell PowerEdge

Для ускорения приложений Dell предлагает широкую линейку производительных ускорителей, доступных для выбранных стоечных и башенных серверов Dell PowerEdge. Количество и тип ускорителей зависят от физических размеров плат PCIe.

Двухслотовые ускорители (DW) занимают два слота; к ним относятся AMD MI210, Intel Flex 140, NVIDIA H100 NVL, L40S, L40 и A16.

Однослотовые ускорители (SW) — например, NVIDIA L4 и A2 — занимают один слот PCIe. Пресейл-инженеры квалифицируют ускорители под конкретные серверы в зависимости от отраслевых задач.

Характеристики графических ускорителей различаются по числу вычислительных ядер, объёму памяти, а также требованиям к питанию и охлаждению. Например, NVIDIA H100 NVL имеет до 94 ГБ памяти и потребляет до 400 Вт.

Графические ускорители (GPU). GPU — это сопроцессоры, созданные для ускорения вычислений. Типичная GPU содержит тысячи ядер, оптимизированных под массовые математические операции. Часть кода переносится с центрального процессора на GPU, остальная часть продолжает работать на CPU — в итоге приложение выполняется быстрее.Dell предлагает широкий набор GPU в виде плат PCIe, устанавливаемых в серверные слоты PCIe. Семейство PowerEdge XE поддерживает комплекты из 4 или 8 ускорителей на модулях OAM (стандарт Open Compute Project) либо на модулях NVIDIA SXM, монтируемых на системной плате.

Процессоры обработки данных (DPU). DPU совмещает вычисления, сетевые функции и программируемость, разгружая центральные процессоры и обеспечивая аппаратно ускоряемые, программно управляемые решения для наиболее требовательных нагрузок.

Параллельная обработка — это разбиение программы на части и одновременный запуск задач на нескольких микропроцессорах, что сокращает время выполнения.

Чтобы полностью раскрыть потенциал ускорителей, оптимизируйте программный код. Во многих приложениях несколько строк изменений дают заметный выигрыш в производительности.

Графические ускорители NVIDIA Hopper и Ampere с ядрами Tensor

Семейства NVIDIA Hopper и Ampere обеспечивают необходимую вычислительную мощность для ускорения обучения моделей глубинного обучения, высокопроизводительной аналитики данных, визуализации и других ресурсоемких задач. Кроме того, ускорители NVIDIA дают высокую производительность и плотность пользователей для виртуализации рабочих мест. Решение NVIDIA AI Enterprise позволяет развернуть прикладной ИИ на стандартной корпоративной инфраструктуре.

Примечания:

• ВВВ (HPC) — высокопроизводительные вычисления.
• Виртуализация рабочих мест — VDI.
• HBM/GDDR — типы памяти графических ускорителей.
• SXM / NVLink / PCIe — фирменные/стандартные интерфейсы подключения ускорителей.

Сертифицированные NVIDIA системы на базе Dell объединяют графические ускорители и сетевые решения NVIDIA в серверах и гиперконвергентной инфраструктуре Dell Technologies в оптимальных конфигурациях. Эти системы проверены на производительность, управляемость, безопасность и масштабируемость и поддерживаются корпоративной службой поддержки NVIDIA и Dell Technologies.

• Инфраструктура для широкого спектра ускоряемых корпоративных нагрузок
• Высокая производительность
• Сокращение времени ввода в эксплуатацию
• Защищенная работа без компромиссов
• Проектирование от одиночного узла до кластеров с горизонтальным масштабированием

Графические ускорители Intel

Серия Intel® Data Center GPU Max создана для самых сложных задач высокопроизводительных вычислений и искусственного интеллекта. Доступна для серверов Dell PowerEdge XE9640.

Раскройте потенциал Intel Data Center GPU Max с помощью программных средств. Пакеты Intel oneAPI и инструменты для ИИ позволяют получить максимум от аппаратных возможностей: Intel® Xe Matrix Extensions (XMX), векторного вычислительного блока, межсоединения Intel® Xe Link, гибкой работы с типами данных и других функций.

Примечания:

• OAM — модуль ускорителя (Open Compute Project),
• RoCE — RDMA поверх конвергентного Ethernet;
• SW — однослотовая плата.

Графические ускорители AMD

На архитектуре CDNA ускоритель AMD MI300X обеспечивает поддержку высокоскоростной памяти: 192 ГБ HBM3 на один модуль. В сервере Dell PowerEdge XE9680 (8 ускорителей) суммарный объем составляет свыше 1,5 ТБ HBM3.

Примечания:

• HBM — высокоскоростная стековая память.
• OAM — модуль ускорителя стандарта Open Compute Project.
• Infinity Fabric (Link) — фирменное межсоединение AMD.
• «двухслотовая» = плата шириной в два слота PCIe.

Заключение и выводы

Линейка Dell PowerEdge для ускоряемых нагрузок закрывает ключевые сценарии — от обучения и применения моделей ИИ до высокопроизводительных расчетов, визуализации и аналитики в реальном времени. Результат определяется не столько номинальной мощностью, сколько корректной связкой «тип ускорителя — серверная платформа — охлаждение — программный стек». Форм-фактор ускорителя задает архитектуру: SXM и OAM обеспечивают высокую связанность и большую память на модуль, PCIe дает гибкость конфигураций и совместимость с широким спектром задач и бюджетов. В условиях роста теплопакетов решающее значение приобретают термопрофиль и способ отвода тепла: воздушные схемы остаются базовым вариантом, а жидкостные контуры и жидкостные радиаторы позволяют выдерживать высокую плотность и стабильную частоту без троттлинга. Экономический эффект проявляется в ускорении цикла «данные — модель — результат» и сокращении совокупной стоимости владения за счет меньшего числа узлов при большей производительности, при условии, что питание, охлаждение и ПО подобраны без «узких мест». Наконец, программная оптимизация — необходимое условие раскрытия потенциала: корректные драйверы, библиотеки и минимальные правки кода часто дают прирост, сопоставимый с аппаратным апгрейдом.

Практическая рекомендация сводится к поэтапному подбору конфигурации. Сначала уточняется профиль нагрузки: обучение крупных языковых моделей, применение моделей с требованием к задержкам, инженерное моделирование, VDI или визуализация. Далее выбирается класс ускорителей с учетом объема видеопамяти, интерконнекта и лимитов энергопотребления; фиксируется тип охлаждения и проверяется совместимость по слотовой базе, райзерам, ограничениям по питанию и корпусным корзинам. Далее стоит провести пробный запуск на реальном наборе данных: измерить время одного цикла обучения, скорость обработки и задержки на выбранной программной платформе (NVIDIA AI Enterprise, oneAPI или ROCm). По результатам уже принимать решение — наращивать мощность отдельных узлов или расширять систему за счет большего числа серверов.

Альтернативные подходы остаются релевантными в зависимости от приоритета. Крупные узлы серии XE дают выигрыш в связности и скорости обучения; распределенные кластеры на большем числе систем удобнее, если важнее гибкость закупок, отказоустойчивость и поэтапное расширение. Часто работает смешанная стратегия: топ-узлы под обучение и энергоэффективные PCIe-ускорители под применение модели, визуализацию и VDI — такой тандем позволяет оптимизировать затраты без потери производительности в критичных контурах.