Обзор: Сервер HPE ProLiant DL380a Gen12 - 4U для плотной установки GPU и AI-нагрузок с воздушным охлаждением

HPE ProLiant Compute DL380a Gen12 ориентирован на корпоративные команды, развивающие решения искусственного интеллекта, которым нужна высокая плотность вычислительных ресурсов без изменений в существующей стойке. Корпус формата 4U с воздушным охлаждением устанавливается в стандартную стойку без доработок, поддерживает до восьми полноразмерных двухслотовых GPU и обеспечивает сквозную поддержку PCIe Gen5. Конфигурация может включать два процессора Intel Xeon 6 с числом ядер до 144 на сокет, до 4 ТБ DDR5 в 32 модулях DIMM и до шестнадцати отсеков E3.S NVMe для высокой пропускной способности и емкости подсистемы хранения. Задача такого сервера проста - обеспечить масштабируемый промышленный инференс и целевую донастройку моделей без перехода к жидкостному охлаждению.

По части ускорителей HPE заявляет поддержку широкого набора моделей: NVIDIA H200 NVL, H100 NVL, L40S, L20, L4 и RTX PRO 6000 Blackwell Server Edition, при этом варианты блоков питания рассчитаны на работу с компонентами с повышенным энергопотреблением. В данном обзоре акцент сделан на RTX PRO 6000 Server, которая в корпоративных проектах в сфере искусственного интеллекта выглядит как практичный баланс между производительностью, потребляемой мощностью и бюджетом. Каждый такой адаптер предоставляет 96 ГБ памяти ECC GDDR7, интерфейс PCIe Gen5 x16, тензорные ядра с поддержкой формата FP4 и паспортное энергопотребление до 600 Вт, что позволяет применять его в стойках с воздушным охлаждением. Тестовая конфигурация включала четыре таких ускорителя - это разумная отправная точка для высокопроизводительного инференса и целевой донастройки моделей с запасом по дальнейшему наращиванию ресурсов.

HPE дополняет платформу тем, что критично на практике. Встроенный контроллер iLO 7 обеспечивает удаленную настройку сервера, мониторинг состояния и управление питанием на уровне оборудования. Базой служит аппаратный корень доверия Silicon Root of Trust - защищенный модуль, отвечающий за целостность прошивки, с поддержкой криптографии RSA до 4096 бит и съемным модулем DC-MHS iLO, который усиливает контроль цепочки поставок и подлинности компонентов. 

HPE ProLiant Compute DL380a Gen12 - технические характеристики

Архитектура HPE ProLiant Compute DL380a Gen12

HPE ProLiant Compute DL380a Gen12 - это стоечный двухсокетный сервер формата 4U, ориентированный на высокопроизводительные масштабируемые конфигурации. При габаритах около 175 x 448 x 803 мм он сочетает высокую плотность вычислительных ресурсов CPU и GPU с эффективным воздушным охлаждением, что обеспечивает устойчивую работу под длительными тяжелыми нагрузками.

В зависимости от выбранной конфигурации масса шасси составляет приблизительно от 38 до 63 кг, что отражает поддержку компонент повышенной мощности, резервируемых блоков питания и удобного фронтального доступа для обслуживания. Конструкция делает акцент на производительности, возможности наращивания и надежном тепловом режиме, поэтому сервер хорошо подходит для корпоративных ИТ-сред и инфраструктуры центров обработки данных.

По подсистеме хранения данных HPE ProLiant Compute DL380a Gen12 поддерживает конфигурации с 4 или 8 дисковыми отсеками в формате SFF или EDSFF. Тестируемый экземпляр был укомплектован фронтальным модулем HPE DL380a Gen12 NS204i-u Front Cage Kit, который поддерживает два загрузочных NVMe M.2 накопителя с возможностью горячей замены. Дополнительно шасси включало восемь отсеков под 2,5-дюймовые диски, из которых два были заняты фирменными твердотельными U.3 SSD HPE емкостью по 15,36 ТБ. Для фронтальной корзины предусмотрено несколько вариантов конфигурации, что позволяет гибко масштабировать емкость и производительность системы хранения под разные сценарии развертывания.

Корпус оснащен двумя ручками с каждой стороны, поэтому для безопасной установки в стойку и снятия требуется участие как минимум двух человек. Для монтажа используется комплект направляющих высотой 2U с телескопическим механизмом, который обеспечивает плавную установку и обслуживание сервера непосредственно в стойке без необходимости полностью выдвигать или демонтировать его из шкафа.

На задней панели сервера HPE ProLiant Compute DL380a Gen12 реализована четкая компоновка, ориентированная на эффективный воздушный поток, расширяемость и удобство обслуживания. Система поддерживает установку до восьми блоков питания MCRPS (позиций 1–8) с интегрированной вентиляционной стенкой, что помогает сохранять оптимальный температурный режим под нагрузкой. Возможности расширения широкие: предусмотрено несколько слотов PCIe Gen5 x16 (1–6), рассчитанных на установку как базовых, так и опциональных фиксируемых райзеров, а также слоты OCP A и B для гибкой конфигурации сетевых адаптеров.

По части подключений доступны выделенный сетевой порт для iLO, несколько портов USB 3.2 Gen 1 и видеовыход VGA для локального управления. Важно учитывать, что слот 1 доступен только при использовании комплекта HPE DL380a Gen12 4EDSFF Direct Cable for NVD (P74716-B21) и не может применяться с дисками SFF NVMe, а слот 4 не поддерживается в конфигурациях с 4 или 8 двухслотовыми GPU.

Питание сервера HPE ProLiant Compute DL380a Gen12 реализовано на основе модульных блоков питания M-CRPS Titanium с поддержкой горячей замены. Поддерживаются варианты мощностью 1500 Вт (P67244-B21), 2400 Вт (P67252-B21) и 3200 Вт (P67248-B21). Система допускает установку до восьми блоков питания, что позволяет выстраивать схему резервирования N+1 и сохранять работу сервера даже при отказе одного из модулей. В зависимости от конфигурации GPU потребляемая мощность и схема распределения нагрузки по блокам питания могут меняться. Тестируемый экземпляр был укомплектован пятью блоками M-CRPS мощностью 2400 Вт каждый, что обеспечивает достаточный запас по питанию для четырех GPU с TDP 600 Вт при сохранении надежного уровня резервирования.

Если смотреть на HPE ProLiant Compute DL380a Gen12 сверху, видно, что шасси спроектировано с приоритетом охлаждения GPU: ускорители вынесены в переднюю часть системы и получают прямой, ничем не перекрываемый поток воздуха. Подсистема охлаждения включает четыре вентиляторных модуля с возможностью горячей замены; каждый модуль построен на одном двухроторном вентиляторе формата 92x56 мм и двух однороторных вентиляторах 40x28 мм. Меньшие вентиляторы направляют воздушный поток на процессоры и модули памяти, обеспечивая эффективный тепловой режим для этих узлов. Более крупные двухроторные вентиляторы рассчитаны на подачу большого объема воздуха непосредственно через массив GPU. Такая сбалансированная схема охлаждения позволяет удерживать оптимальные температуры как вычислительных, так и ускорительных компонентов даже при длительной работе на высоком энергопотреблении.

При рассмотрении конфигурации GPU видно, что в данном экземпляре HPE ProLiant Compute DL380a Gen12 проводка изначально подготовлена под четыре ускорителя PCIe 5.0, которые аккуратно установлены во фронтальный модуль-корзину для GPU. В составе системы использовались графические ускорители NVIDIA RTX PRO 6000 (Blackwell Server Edition, 96 ГБ), относящиеся к новой профессиональной линейке NVIDIA, оптимизированной под задачи искусственного интеллекта, визуализации и вычислительных нагрузок. В зависимости от выбранной сборки сервер способен поддерживать 4 или 8 двухслотовых GPU либо до 16 однослотовых ускорителей, что дает заметную свободу при проектировании корпоративных систем и решений на базе искусственного интеллекта.

Поддержка GPU для данной платформы включает следующие модели:

• NVIDIA RTX PRO 6000 Server Edition (96 ГБ)

• NVIDIA H200 NVL (141 ГБ)

• NVIDIA H100 NVL (94 ГБ)

• NVIDIA L40S (48 ГБ)

• NVIDIA L20 (48 ГБ)

• NVIDIA L4 (24 ГБ)

Такая гибкая схема размещения ускорителей в сочетании с высокоскоростными линиями PCIe Gen5 делает HPE ProLiant Compute DL380a Gen12 готовым как к плотным сценариям инференса, так и к крупномасштабным средам обучения моделей искусственного интеллекта.

Если продвинуться дальше к тыльной части шасси и посмотреть на компоновку уже с установленным кожухом системы охлаждения, становится заметен продуманный подход HPE к управлению воздушными потоками. Кожух имеет формованную систему направляющих, которая эффективно распределяет поток воздуха по процессорам, модулям памяти и элементам VRM, обеспечивая более равномерное охлаждение всех ключевых узлов системы.

Если перейти к системе охлаждения процессоров, видно, что при проектировании HPE ProLiant Compute DL380a Gen12 особое внимание уделялось тепловому балансу. Каждый процессор Intel Xeon 6 оснащен высоким радиатором, рассчитанным как на собственное тепловыделение CPU, так и на дополнительное тепло от GPU, расположенных ближе к передней части шасси. Такая конструкция позволяет сохранять стабильную эффективность охлаждения даже при тяжелых смешанных нагрузках, когда нагретый воздушный поток от GPU повышает температуру в зоне процессоров. При установке высокомощных ускорителей сочетание увеличенной высоты радиаторов и линейной схемы обдува спереди назад, реализованной в данной платформе, обеспечивает достаточную площадь рассеивания и эффективность охлаждения для надежной работы при возросшей тепловой нагрузке.

Панель управления HPE iLO 7

Как уже отмечалось ранее, сервер оснащен выделенным сетевым портом iLO, который обеспечивает внеполосное управление и мониторинг с полным доступом к аппаратным функциям системы. В данной конфигурации используется новая версия интерфейса HPE iLO 7, предоставляющая администраторам обновленный веб-интерфейс и расширенный набор возможностей, интегрированных с HPE Compute Ops Management для упрощения настройки, наблюдения за состоянием и управления жизненным циклом сервера. На скриншоте ниже показан обновленный экран входа HPE iLO 7 на примере этой платформы.

Если посмотреть на главную панель HPE iLO 7, видно, что интерфейс обновлен и сразу выносит на первый план общее состояние системы и ключевые показатели работоспособности. Центральный блок отображает сводку по состоянию питания хоста, параметрам здоровья сервера и статусу подключения к HPE Compute Ops Management. Справа вынесена основная служебная информация – IP-адрес iLO, имя хоста и тип лицензии, чтобы эти данные всегда были под рукой.

Панель консолидирует важные метрики, такие как резервирование вентиляторов, состояние блоков питания и температурные показатели, в наглядной цветовой схеме, что позволяет быстро оценить состояние сервера буквально одним взглядом. Доступ к виртуальным носителям и удаленной консоли также реализован прямо с главной страницы, что ускоряет выполнение типовых задач удаленного администрирования без необходимости переходить в дополнительные разделы меню.

На вкладке Firmware интерфейс HPE iLO 7 дает наглядный и структурированный обзор всех компонентов и операций, связанных с управлением обновлениями. В карточном представлении отображаются установленная версия прошивок, активные очереди установки и результаты проверки, что упрощает навигацию по списку компонентов. Администратор может быстро запускать обновления, загружать пакеты в репозиторий iLO или формировать наборы установки для пакетного развертывания.

Функции проверки прошивок и управления репозиторием встроены прямо в этот раздел, что позволяет контролировать целостность пакетов и поддерживать согласованность версий на уровне отдельных компонентов. Область быстрых действий Quick Actions справа ускоряет выполнение ключевых операций, таких как запуск обновления или загрузка новых файлов. Карточка Firmware Settings дает возможность задать политику понижения версий и правила принятия пакетов сторонних производителей.

В разделе Host интерфейс HPE iLO 7 обеспечивает быстрый доступ к ключевым функциям управления сервером – управлению питанием, работе с виртуальными носителями, контролю аппаратного состояния и показателям производительности системы. В этом же окне доступны просмотр актуального статуса резервирования аппаратных компонентов, переход к объединенному журналу управления и запуск удаленной консоли. Компоновка раздела включает набор быстрых действий: корректное завершение работы, перезапуск по питанию и различные варианты сброса, что дает возможность полностью управлять сервером дистанционно, без физического доступа к оборудованию.

В правой части окна отображаются параметры хоста, включая состояние модуля TPM, настройки политик платформы и сведения об установленных аппаратных модулях. В целом этот раздел подчеркивает роль iLO 7 как централизованного контура управления, позволяющего безопасно работать с питанием, отслеживать события и сохранять оперативный контроль над состоянием сервера в едином интерфейсе.

В представлении Host > Hardware интерфейса HPE iLO 7 отображаются установленные в системе GPU. Как уже отмечалось, в данном сервере задействованы четыре ускорителя NVIDIA RTX PRO 6000 Blackwell, и каждый из них отображается как включенный и работающий в штатном режиме. iLO 7 предоставляет детализированные сведения об оборудовании, включая обозначение модели, артикул (партномер) и серийный номер, что позволяет оперативно оценивать состояние компонентов и при необходимости сверять их с учетной документацией.

Во вкладке Security интерфейс HPE iLO 7 объединяет все ключевые настройки, связанные с защитой системы и управлением доступом. Обзорная панель дает высокоуровневое представление о текущем уровне защищенности - отображает уровень риска, наличие блокировок конфигурации и состояние сертификатов. Из этого раздела администратор может управлять параметрами шифрования, методами аутентификации и TLS-сертификатами, а также настраивать безопасное стирание данных и удаленное управление ключами шифрования.

Интерфейс наглядно подсвечивает зоны, требующие внимания, например использование самоподписанных сертификатов или отсутствие настроенного сервиса управления ключами, при этом отдельно подтверждая корректный безопасный режим там, где он уже обеспечен. Журналы безопасности, политики управления пользователями и настройки прав доступа доступны из этого же раздела, что дает целостное представление о состоянии защиты сервера непосредственно в среде iLO.

Во вкладке HPE Apps интерфейс HPE iLO 7 предоставляет доступ к встроенным инструментам, которые помогают упростить развертывание серверов и дальнейшее управление их жизненным циклом. Из этого раздела можно запустить Intelligent Provisioning - встроенную утилиту, разработанную для упрощения установки операционных систем, обновления прошивок и базовой конфигурации системы без применения внешних загрузочных носителей.

Вкладка iLO Settings объединяет все настройки и административные параметры, связанные с управлением интерфейсом iLO. Из этого раздела администратор может регулировать доступ пользователей, параметры сетевого порта, выбирать методы аутентификации и задавать правила ведения журналов. В меню также доступны средства диагностики, настройки применения политик, управление лицензиями и параметры синхронизации времени.

Справа вынесены быстрые действия, такие как резервное копирование и восстановление конфигурации iLO, а также выполнение сброса, что упрощает выполнение регламентных операций. Структура раздела повторяет современный карточный интерфейс iLO 7 и представляет параметры безопасности, подключения и эксплуатации в едином, наглядно организованном окне.

Тестирование производительности HPE ProLiant Compute DL380a Gen12

Для оценки практических возможностей HPE ProLiant Compute DL380a Gen12 был проведен комплексный набор тестов, охватывающий как сценарии инференса моделей искусственного интеллекта, так и общие вычислительные нагрузки. В качестве стенда использовались бенчмарки vLLM для онлайн-обслуживания крупных языковых моделей (LLM), а также набор тестов Phoronix Test Suite для измерения производительности процессоров, пропускной способности подсистемы памяти, эффективности веб-сервисов и криптографических операций.

Конфигурация тестовой системы

• CPU: 2 x Intel Xeon 6527P

• ОЗУ: 16 x HPE 64 ГБ 2Rx4 PC5-3400B-R Smart Kit

• GPU: 4 x NVIDIA RTX PRO 6000 (96 ГБ)

• Подсистема хранения: 2 x 15,63 ТБ PM1733a U.3

vLLM Online Serving - производительность инференса LLM

vLLM сегодня является одним из наиболее популярных движков для высокопроизводительного инференса и онлайн-обслуживания крупных языковых моделей. Тест vLLM online serving используется для оценки того, как такой движок справляется с реальными запросами при одновременной работе множества клиентов. В процессе бенчмарка к запущенному серверу vLLM отправляются запросы с настраиваемыми параметрами: частота запросов, длина входной и выходной последовательностей, число параллельных клиентов. В ходе теста измеряются ключевые показатели - пропускная способность (токенов в секунду, tok/s), время до первого токена (TTFT) и время генерации одного выходного токена (TPOT), что позволяет оценить поведение vLLM под разными профилями нагрузки.

В рамках этого обзора производительность инференса оценивалась на трех показательных моделях, различающихся по масштабу и подходу к квантованию, чтобы понять, как конфигурация из четырех GPU NVIDIA RTX PRO 6000 в сервере HPE ProLiant Compute DL380a Gen12 справляется с промышленными сценариями обслуживания LLM.

Производительность плотных моделей

Под плотными моделями здесь понимаются классические архитектуры LLM, в которых в процессе инференса задействованы все параметры и активации без разрежения. В тестировании рассматривались две конфигурации плотных моделей: Llama-2-70b-chat-hf и Llama-3.2-90B-Vision-Instruct.

Производительность Llama-2-70B-Chat

При единичной конкурентности (BS=1, один активный пользователь в батче) и тензорном параллелизме TP=4 модель выдает 32,89 ток/с на пользователя при TPOT 30,18 мс. При увеличении размера батча до BS=8 производительность составляет 15,68 ток/с на пользователя, суммарная пропускная способность достигает 433,62 ток/с, а TPOT - 35,98 мс. При дальнейшем масштабировании до BS=32 общая пропускная способность увеличивается до 741,62 ток/с, при этом на одного пользователя приходится 8,00 ток/с при TPOT 43,44 мс.

Производительность Llama-3.2-90B-Vision-Instruct

При размере батча BS=1 и тензорном параллелизме TP=4 модель выдает 20,59 ток/с на пользователя при TPOT 38,27 мс. При увеличении BS до 16 производительность составляет 7,20 ток/с на пользователя, суммарная пропускная способность достигает 806,14 ток/с, а TPOT - 54,98 мс. Максимальная общая пропускная способность 1372,21 ток/с достигается при BS=128, когда на одного пользователя приходится 2,59 ток/с при TPOT 122,75 мс.

Если смотреть на динамику, Llama-3.2-90B-Vision-Instruct демонстрирует типичное для крупных LLM поведение: по мере роста размера батча увеличивается суммарная пропускная способность, но снижается скорость на пользователя и растет задержка вывода токенов, что важно учитывать при выборе баланса между числом одновременных сессий и комфортом работы отдельных пользователей.

Производительность формата Microscaling

Под Microscaling в данном контексте понимается продвинутая схема квантования, при которой масштабирование весов выполняется не равномерно по крупным группам параметров, а с использованием отдельных коэффициентов для мелких блоков значений. Формат NVIDIA NVFP4 реализует этот подход через блочное представление с плавающей запятой: каждый микроблок из 8–32 значений использует общий показатель степени в качестве масштабирующего фактора. Такая более тонкая градация позволяет сохранить численную точность при представлении весов в 4-битном формате, при этом поддерживая динамический диапазон, критичный для трансформерных архитектур. NVFP4 интегрирован с архитектурой Tensor Core в ускорителях NVIDIA RTX PRO 6000 и обеспечивает эффективные вычисления в смешанной точности с распаковкой данных "на лету" прямо в ходе матричных операций.

Производительность GPT-OSS-120B

Производительность модели OpenAI GPT-OSS-120B оценивалась в варианте с квантованием NVFP4. При единичной конкурентности (один пользователь, BS=1) и тензорном параллелизме TP=2 модель выдает 176,09 ток/с на пользователя при TPOT 5,46 мс, что стало минимальной задержкой среди всех тестируемых конфигураций. При BS=4 и TP=4 производительность составляет 105,79 ток/с на пользователя при общей пропускной способности 1155,94 ток/с и TPOT 7,79 мс. При увеличении размера батча до BS=32 и TP=4 модель достигает 47,54 ток/с на пользователя и 3956,44 ток/с суммарно при TPOT 13,86 мс. Максимальная общая пропускная способность 4015,77 ток/с достигается при BS=64, когда на одного пользователя приходится 25,38 ток/с при TPOT 14,78 мс.

Из этих результатов видно, что сочетание NVFP4 и четырех RTX PRO 6000 позволяет GPT-OSS-120B одновременно обеспечивать очень низкую задержку при малых батчах и высокую суммарную пропускную способность при росте числа одновременных запросов - что особенно важно для продакшн-сценариев инференса крупных LLM.

Бенчмарки Phoronix

Phoronix Test Suite - это открытая автоматизированная платформа нагрузочного тестирования, поддерживающая более 450 тестовых профилей и свыше 100 наборов тестов через OpenBenchmarking.org. Среда берет на себя установку зависимостей, запуск тестов и сбор результатов, что делает ее удобным инструментом для сравнения производительности, валидации аппаратной платформы и сценариев непрерывной интеграции. В данном обзоре внимание сосредоточено на следующих тестах: Stream, 7-Zip, сборка ядра Linux, Apache и OpenSSL.

Пропускная способность памяти (Stream)

В тесте Stream, измеряющем "сырую" пропускную способность подсистемы памяти, HPE ProLiant Compute DL380a Gen12 показывает результат 542 ГБ/с, что демонстрирует способность платформы поддерживать высокий уровень обмена данными при длительных нагрузках. Такой уровень пропускной способности особенно важен для задач моделирования данных, имитационного моделирования и инференса моделей искусственного интеллекта, где большие массивы данных постоянно перемещаются между памятью и вычислительными ресурсами.

7-Zip Compression

В тесте на сжатие 7-Zip зафиксирован результат 305 k MIPS, что подчеркивает высокую эффективность многопоточной работы процессоров при ресурсоемких операциях сжатия и распаковки. При таких показателях DL380a Gen12 хорошо подходит для сред, где регулярно выполняются операции по упаковке данных, архивированию и резервному копированию, требующие стабильной и предсказуемой производительности CPU.

Сборка ядра Linux

При сборке полного ядра Linux с конфигурацией allmodconfig сервер DL380a Gen12 выполняет задачу за 316 секунд. Этот бенчмарк отражает способность системы уверенно обрабатывать параллелизованные, насыщенные исходным кодом нагрузки. Ускоренная сборка напрямую сокращает время цикла сборка-тестирование и повышает скорость итераций для команд разработки, особенно в крупных проектах и CI/CD-средах.

Веб-сервер Apache

В тесте веб-нагрузки Apache DL380a Gen12 демонстрирует устойчивую обработку 94 348 запросов в секунду. Такой результат говорит о сбалансированной работе подсистемы ввода-вывода и эффективном использовании кеша, обеспечивая требуемую пропускную способность и отзывчивость для корпоративных веб-приложений, фронтендов систем виртуализации или внутренних сервисов.

Проверка подписи в OpenSSL

По криптографическим операциям сервер также показывает высокий уровень: в тесте OpenSSL DL380a Gen12 выполняет 803 млрд операций в секунду при проверке подписи. Это иллюстрирует возможности платформы по обслуживанию задач шифрования, аутентификации и защищенных коммуникаций в масштабах корпоративной инфраструктуры.

Такой набор результатов показывает, что помимо AI-инференса платформа DL380a Gen12 уверенно закрывает классические серверные задачи - от работы с данными и архивирования до CI/CD и защищенных сетевых сервисов, что важно при выборе универсального узла для смешанных нагрузок в ЦОД.

Бенчмарки Phoronix – результаты HPE ProLiant Compute DL380a Gen12 (2 x Intel Xeon 6527P)

Заключение

HPE ProLiant Compute DL380a Gen12 выделяется как один из самых практичных и сбалансированных серверов для задач искусственного интеллекта в корпоративном сегменте. Форм фактор 4U с воздушным охлаждением обеспечивает серьезную плотность вычислительных ресурсов: два процессора Xeon 6, поддержка до 8 двухслотовых или 16 однослотовых GPU и до 16 отсеков E3.S NVMe при сохранении надежности и удобства сервисного обслуживания. Продуманная организация воздушных потоков и теплового баланса позволяет серверу стабильно работать под тяжелыми нагрузками, показывая, что продвинутое ускорение AI вполне реализуемо и в традиционной схеме с воздушным охлаждением.

Наличие iLO 7 заметно усиливает управляемость платформы - это серьезное преимущество для крупных производителей серверов уровня HPE. Обновленный интерфейс и детальная аппаратная телеметрия делают удаленное администрирование интуитивным и эффективным. Каждый раздел - Dashboard, Firmware, Host, Security, Apps и Settings - отражает движение HPE в сторону более аккуратного, интегрированного с облачной инфраструктурой опыта управления, при этом локальный контроль над оборудованием в пределах собственного ЦОД остается в полном объеме.

В тестах производительности сервер показал очень сильные результаты. Четыре GPU RTX PRO 6000 обеспечили впечатляющую пропускную способность как для плотных, так и для квантованных LLM, а показатели vLLM по обслуживанию запросов сопоставимы с решениями на жидкостном охлаждении. Процессорные бенчмарки Phoronix дополнительно подчеркивают баланс системы: более 540 ГБ/с пропускной способности памяти, около 94 тыс. запросов в секунду в Apache и свыше 800 млрд операций проверки в OpenSSL демонстрируют высокую эффективность как в AI-сценариях, так и в традиционных вычислительных нагрузках.

Цель конструкции HPE просматривается четко - обеспечить высокоплотную, готовую к промышленной эксплуатации производительность AI в рамках воздушного охлаждения, которое вписывается в существующие стойки и энергобюджеты. Для команд ЦОД, которым нужны надежные, защищенные и удобно управляемые вычислительные ресурсы в форм факторе с воздушным охлаждением, DL380a Gen12 выглядит мощным и ориентированным на будущее вариантом для растущего массового рынка решений искусственного интеллекта.

Руководство пользователя:

Data Sheet (HPE ProLiant Compute DL380a Gen12).pdf
Техническое руководство (HPE ProLiant Compute DL380a).pdf