Обзор: Сервер Dell PowerEdge R360 - 1U для видеоаналитики и типовых задач SMB

Сервер Dell PowerEdge R360 - это компактный 1U однопроцессорный стоечный сервер для размещения в узлах на периферии инфраструктуры и в ИТ среде малого и среднего бизнеса. Модель ориентирована на максимальную отдачу при разумном бюджете и использует процессоры Intel Xeon серии E 2400, оперативную память DDR5 и шину PCI Express пятого поколения.

R360 ориентирован на растущие требования бизнеса к вычислительным ресурсам. Этот стоечный сервер прост в администрировании и дает экономичный по совокупной стоимости вариант для компаний, которым нужны функционально насыщенные, но доступные по бюджету решения. Высокая скорость памяти, достаточный запас дисковой емкости и производительная процессорная часть позволяют использовать PowerEdge R360 в самых разных прикладных системах.

PowerEdge R360 уместен как в контуре ЦОД, так и за его пределами и хорошо подходит для следующих сценариев:

• Малый и средний бизнес - обеспечивает масштабируемость инфраструктуры без заметных потерь в производительности.

• Филиальные и удаленные офисы, а также периферийные площадки - предоставляет устойчивую производительность и удобное управление распределенными площадками.

• Совместная работа и обмен данными - поддерживает командную работу и безопасный доступ к общим ресурсам внутри организации.

• Поддержка и сопровождение баз данных - обеспечивает достаточную вычислительную мощность и эффективность для выполнения операций с БД и сопутствующих задач администрирования.

В совокупности Dell PowerEdge R360 можно рассматривать как универсальное и экономически оправданное решение для компаний, которые хотят планомерно усиливать свою ИТ инфраструктуру.

PowerEdge R360 отличается от предшественника PowerEdge R350 более мощным процессором, увеличенной пропускной способностью памяти, доработанной подсистемой загрузочных накопителей (BOSS N-1 вместо BOSS S-2), а также поддержкой одного графического адаптера начального уровня для центров обработки данных NVIDIA A2 с теплопакетом 40-60 Вт, тогда как PowerEdge R350 не предусматривал установку GPU.

Сервер PowerEdge R360 поддерживает установку до четырех дисков формата 3,5 дюйма или восьми накопителей 2,5 дюйма, а также оснащается двумя слотами PCI Express пятого поколения для развития по дискам и интерфейсам. Башенная модификация этой модели - 4,5U PowerEdge T360 - предлагает расширенный потенциал по хранению данных: до восьми дисков 3,5 дюйма и четыре слота PCIe (три поколения Gen4 и один Gen5). Для аппаратной организации RAID в PowerEdge R360 доступны два варианта на базе контроллеров PERC H355 или H755, подключаемых через выделенный райзер.

Архитектура Dell PowerEdge R360

PowerEdge R360 - это 1U стоечный сервер стандартной глубины (порядка 1,68 x 18,97 x 24,57 дюйма: высота-ширина-глубина с установленной лицевой панелью). На передней панели размещены комбинированный порт Micro-AB USB для iDRAC Direct и один порт USB 2.0, при необходимости доступ к ним может быть ограничен с помощью опциональной защитной панели.

На задней панели находятся выделенный сетевой порт управления iDRAC, еще один USB 2.0, один USB 3.2 Gen1, а также видеовыход VGA и последовательный порт. Внутри сервера PowerEdge R360 предусмотрен дополнительный порт USB 3.2 Gen1. Здесь же хорошо виден слот BOSS N-1 для отдельных загрузочных накопителей формата M.2, поэтому основные дисковые ресурсы можно не расходовать под систему и оставить целиком под рабочее хранилище. С тыльной стороны также доступны два блока питания - устанавливаются резервируемые блоки с горячей заменой мощностью 600 Вт уровня Platinum или 700 Вт уровня Titanium.

При осмотре изнутри видно, что в компоновке PowerEdge R360 процессор расположен ближе к задней части шасси; даже старшая модель Xeon E-2488 использует пассивный радиатор без активного кулера. Теплопакет этого процессора составляет 95 Вт. Слева от него находятся четыре слота модулей DDR5, которые позволяют установить до 128 ГБ оперативной памяти (4 x 32 ГБ). Регистровая память ECC (RDIMM) не поддерживается. Рядом с радиатором процессора размещены два слота расширения PCI Express.

По центральной оси шасси установлены четыре вентилятора с простой заменой без инструмента, которые обеспечивают воздушное охлаждение. Внутренний воздуховод направляет поток воздуха через процессор, при этом в нем предусмотрен отдельный вырез, чтобы часть потока проходила и через установленные платы PCI Express.

Перед вентиляторами расположены отсеки для дисков - PowerEdge R360 поддерживает конфигурации с четырьмя отсеками под накопители формата 3,5 дюйма или восемью отсеками под 2,5 дюйма. Для них Dell предлагает несколько вариантов аппаратных RAID контроллеров и заводские конфигурации массивов RAID 0, 1, 5, 6 или 10.

Управление и обслуживание Dell PowerEdge R360

Подробно встроенный контроллер удаленного управления iDRAC разбирается в материале, посвященном серверу PowerEdge R260. В контексте PowerEdge R360 важно, что iDRAC обеспечивает полноценное удаленное администрирование: позволяет следить за состоянием сервера, устанавливать обновления и проводить диагностику независимо от того, где физически находится оборудование и администратор.

Сравнение с предыдущем поколением - Dell PowerEdge R350

Наиболее заметные улучшения в R360 по сравнению с предыдущим поколением - это существенно более производительные процессоры, появление поддержки графических ускорителей начального уровня и прирост скорости работы памяти до примерно 1,4 раза.

Ключевые отличия

Поддержка GPU начального уровня

В рознице, производстве и логистике растет спрос на вычисления, связанные с обработкой видео и аудио. Чтобы закрыть этот сегмент задач, серверы PowerEdge R360 теперь поддерживают установку одного графического адаптера начального уровня для ЦОД NVIDIA A2. Он ускоряет ресурсоемкие медиа нагрузки, а также новые сценарии инференса моделей искусственного интеллекта. NVIDIA A2 представляет собой однослотовый GPU с 16 ГБ собственной памяти и настраиваемым теплопакетом 40–60 Вт. 

Такое обновление как раз своевременно для компаний, которые планируют расширять инфраструктуру и пробовать базовые сценарии применения ИИ. Для примера, розничная сеть может использовать связку GPU NVIDIA A2 и актуальных процессоров, чтобы в режиме потока анализировать видеокамеры в торговых залах для задач управления запасами и оценки поведения покупателей.

Тестирование производительности процессора

Пакет SPEC CPU 2017 считается отраслевым стандартом для оценки вычислительной производительности как при операциях с плавающей запятой, так и при целочисленных расчетах. Полученные результаты сопоставлялись с показателями серверов предыдущего поколения PowerEdge R350 на процессорах Intel Xeon E 2300.

Сравнения между поколениями, приведенные ниже, отражают типичные конфигурации процессоров Intel, которые чаще всего выбирают заказчики серверов R350 и R360 соответственно:

Выбранные процессоры для сравнения R350 и R360

По результатам тестов использовались две метрики пакета SPEC CPU - FP rate и integer rate, которые оценивают пропускную способность системы как выполненный объем работы за единицу времени (чем выше значение, тем лучше результат). Во всех сравниваемых парах процессоров и по обеим метрикам - FP и Int rate - фиксировался прирост производительности не менее 20 процентов при переходе к новому поколению. В целом при обновлении серверов с PowerEdge R350 до R360 можно ожидать до 108 процентов лучшей процессорной производительности. На графике ниже показаны результаты по базовой FP метрике, а в таблице под графиком приведены данные по целочисленным нагрузкам и FP peak.

Прирост производительности SPEC CPU 2017 FP base при переходе с Intel Xeon E 2300 на Intel Xeon E 2400

Результаты по каждому сравнению процессоров

Также были протестированысерверы PowerEdge R360 с актуальными процессорами Intel Xeon серии 6300P, используя тот же пакет тестов SPEC CPU 2017:

PowerEdge R360 дает заметный скачок по эффективности: в конфигурации с новым процессором Intel Xeon 6300P на 4 ядра платформа показывает примерно трехкратное преимущество по показателю «производительность на доллар» по сравнению с предыдущей конфигурацией на 8 ядерном процессоре серии Intel Xeon E 2400.

Показатель «производительность на доллар» рассчитывался как отношение результата по метрике FP base пакета SPEC CPU 2017 к прайс листовой стоимости соответствующего процессора в США. Важно учитывать, что фактические цены зависят от региона и со временем могут меняться.

Такой рост эффективности делает PowerEdge R360 сильным кандидатом для модернизации серверной инфраструктуры: платформа позволяет получить более высокую вычислительную отдачу при контролируемых капитальных затратах и тем самым повысить экономическую обоснованность обновления.

Производительность на доллар в сравнении между R350 и R360

Сервер Dell PowerEdge R360 с современными процессорами Intel Xeon является надежной платформой для консолидации серверов. За счет переноса нагрузок с трех систем R350 на один сервер R360 можно существенно сократить количество физического оборудования и занимаемое место в стойках. Такая консолидация повышает производительность и эффективность использования ресурсов, одновременно снижая затраты на сопровождение.

PowerEdge R360 спроектирован с расчетом на растущие требования к вычислительным ресурсам. Это удобный в администрировании стоечный сервер для компаний, которым нужны доступные по бюджету функции корпоративного класса. Сервер особенно уместен в следующих сценариях:

• Консолидация серверов - уменьшает число физических систем, экономит пространство и бюджет.

• Повышение производительности - обеспечивает более высокую вычислительную мощность и лучшую эффективность.

• Оптимизация затрат на сопровождение - снижает совокупные расходы на обслуживание нескольких разрозненных серверов.

В результате Dell PowerEdge R360 можно рассматривать как универсальное и экономически оправданное решение для компаний, которые хотят оптимизировать ИТ инфраструктуру и при этом закрыть растущие потребности в вычислительных ресурсах.

В конфигурации с новыми процессорами Intel Xeon серии 6300P сервер PowerEdge R360 демонстрирует заметный прирост производительности. Система способна обработать на 41,32 процента больше задач, чем предыдущее поколение, что говорит о существенном повышении эффективности и вычислительной мощности. Проще говоря, тот же объем времени сервер использует для выполнения большего количества нагрузок, что ускоряет обработку данных и повышает итоговую продуктивность. Для бизнеса это означает более высокую скорость работы ресурсоемких приложений, более рациональное использование вычислительных ресурсов и возможность поддерживать большее число пользователей или процессов одновременно.

Поддержка GPU в серверах PowerEdge R360 открывает новые сценарии применения

Спрос на решения в области искусственного интеллекта продолжает расти в самых разных отраслях. По оценке UBS, объем рынка увеличится с 2,2 млрд долларов в 2022 году до 255 млрд долларов к 2027 году. Этот рост касается не только крупных корпораций - поддержка GPU в новых серверах PowerEdge R360 дает компаниям любого масштаба возможность аккуратно пробовать начальные сценарии ИИ инференса, помимо ресурсоемких графических задач.

Чтобы показать, как меняются возможности по производительности, была протестирована нагрузка по 3D рендерингу и инференсу ИИ на сервере PowerEdge R360 с одним GPU NVIDIA A2.

До 5 раз более высокая скорость рендеринга с GPU NVIDIA A2

В первом тесте использовался бенчмарк Blender OpenData - открытый набор тестов, который измеряет скорость рендеринга различных 3D сцен на CPU и GPU. В конфигурации с GPU удалось получить до 5 раз более высокую скорость рендеринга по сравнению с запуском той же нагрузки только на процессоре. В пересчете на вложения это дает до 1,70 раза больший показатель "производительность на вложенный доллар" при использовании GPU NVIDIA A2 вместо одного CPU.

Максимальная производительность инференса при минимальной загрузке CPU

Одним из ключевых мотиваторов добавления поддержки GPU стал растущий интерес компаний сегмента SMB к размещаемой на площадке заказчика, в режиме реального времени, обработке видео и аудио. Для оценки производительности инференса ИИ был установлен открытый набор инструментов NVIDIA DeepStream версии 6.3. DeepStream в первую очередь используется для разработки приложений компьютерного зрения, которые работают с данными датчиков, потоками с камер и видеопотоками. Такие решения применяются в разных отраслях - от систем мониторинга транспортных потоков до анализа видео с торговых залов.

В той же конфигурации PowerEdge R360 была выполнена обработка 48 видеопотоков с инференсом при загрузке GPU чуть выше 50 процентов и умеренной загрузке процессора. Средняя загрузка CPU во время тестов составила около 8 процентов.

NVIDIA A2 ускоряет ресурсоемкие медиа нагрузки, а также актуальные сценарии инференса моделей искусственного интеллекта. NVIDIA A2 представляет собой однослотовый адаптер с 16 ГБ видеопамяти и настраиваемым теплопакетом в диапазоне 40–60 Вт.

Конфигурация системы PowerEdge R360

Ускорение задач 3D рендеринга

Графические адаптеры начального уровня часто применяются в медиа индустрии и индустрии развлечений для 3D моделирования и рендеринга. GPU NVIDIA A2 хорошо подходит именно для таких нагрузок. Чтобы показать масштаб ускорения, была проведена серия испытаний с использованием тестового набора Blender OpenData: сначала сцены обрабатывались только на CPU, затем та же нагрузка запускалась только на GPU. Blender – популярное открытое программное обеспечение для 3D моделирования и визуализации.

Тест оценивает скорость рендеринга трех различных 3D сцен, отдельно в вариантах только на CPU или только на GPU. Результаты приводятся в виде количества выборок (samples) в минуту. На процессоре Intel Xeon E 2488 тест запускался три раза, затем по три прогона были выполнены на GPU NVIDIA A2. В таблице 2 приведены средние значения по трем попыткам для каждого из вариантов.

Результаты

По сравнению с запуском теста только на процессоре, переход на NVIDIA A2 дал до пятикратного роста скорости рендеринга при той же нагрузке. Во всех трех сценах прирост превысил четырехкратный уровень, при этом наилучший результат показала сцена с классной комнатой – она вынесена отдельно на иллюстрации ниже.

Выбор конфигурации R360 с процессором E 2488 и GPU A2 дает более высокую отдачу от вложений в задачи рендеринга, чем R360 без графического ускорителя. Важно и то, что E 2488 - старший и самый дорогой процессор, доступный для R360. Следовательно, при сравнении A2 с конфигурациями на более младших CPU разумно ожидать еще более заметный выигрыш по показателю «производительность на вложенный доллар» в пользу GPU.

Результаты бенчмарка Blender

Производительность видеоаналитики с NVIDIA DeepStream

Хотя для компаний малого и среднего бизнеса более привычной задачей для GPU начального уровня остается 3D рендеринг, тот же адаптер может эффективно ускорять начальные сценарии инференса ИИ и видеоаналитики. Для демонстрации возможностей PowerEdge R360 при запуске типового приложения видеоаналитики использовался набор инструментов NVIDIA DeepStream версии 6.3. В составе DeepStream доступен набор примерных приложений и тестовых потоков, а конфигурационные файлы позволяют варьировать количество обрабатываемых потоков при очередном запуске приложения - ниже это будет описано подробнее. В качестве входных данных могут использоваться отдельные изображения, видеофайлы (с кодированием h.264 или h.265), а также потоки с IP камер по протоколу RTSP.

Для наглядности работы DeepStream можно ориентироваться на кадры, полученные в ходе запуска примерного приложения. Вместо встроенного демонстрационного ролика применялось собственное стоковое видео с посетителями, входящими и выходящими из пекарни. В этом сценарии модель ИИ распознает людей, автомобили и велосипеды. На приведенных ниже фрагментах изображения, где область вокруг кассира дополнительно увеличена, видно, что приложение компьютерного зрения корректно выделило двух покупателей рамками и пометило их меткой «person».

Вместо заранее записанных роликов можно использовать RTSP IP камеру - в этом случае потоковое видео из торгового зала анализируется в режиме реального времени, а не постфактум. Для настройки DeepStream под работу с веб камерой с выводом по RTSP достаточно следовать типичной инструкции по установке и конфигурированию набора инструментов под выбранную ОС и драйверы NVIDIA.

Дополнительно была протестирована демонстрационная конфигурация DeepStream с одним из стандартных видеороликов NVIDIA, на котором показано движение автомобилей, велосипедов и пешеходов на оживленной дороге. Ниже приведены скриншоты работы примерного приложения при обработке 1, 4 и 30 одновременных потоков. В каждой плитке, соответствующей отдельному видеопотоку, модель ИИ обводит обнаруженные объекты рамками и подписывает их класс.

При запуске примерного приложения DeepStream производительность оценивается как количество обрабатываемых кадров в секунду (FPS). Для каждого потока каждые 5 секунд выводится свой показатель FPS. В тестах использовались рекомендации из руководства по производительности DeepStream 6.3, где описаны требуемые изменения конфигурационного файла для достижения максимальной скорости обработки. Так как мозаичный вывод картинки, как на рисунках выше, снижает производительность, NVIDIA рекомендует отключать отображение видео на экране при оценке тестов. 

Для того же тестового видеоролика, который показан на рисунке, NVIDIA указывает, что при источнике H.264 возможно обрабатывать до 48 потоков инференса со скоростью 30 FPS каждый. Чтобы проверить это на связке PowerEdge R360 и GPU A2, была использована следующая методика:

• В конфигурационном файле примерного приложения параметр num-sources был установлен в 48, а параметр batch-size в секции streammux также задан равным 48. Эти изменения дополняли остальные рекомендованные настройки из руководства.

• Приложение запускалось на 10 минут.

• В конце прогона фиксировалось среднее значение FPS для каждого из 48 потоков.

• Затем те же шаги повторялись для 40, 30, 20, 10, 5 и 1 потока. При этом изменялись только значения num-sources и batch-size, которые должны были соответствовать числу тестируемых потоков.

Полученные результаты приведены ниже. Дополнительно с помощью инструментов iDRAC и команды nvidia-smi каждые 7 секунд собирались телеметрические данные по системе (загрузка CPU, суммарное энергопотребление, потребляемая мощность GPU и загрузка GPU). Каждый показатель загрузки, такой как использование GPU, представляет собой среднее значение по 100 точкам измерений за время работы приложения.

На графике ниже показаны средние значения FPS (округленные до целых) при разном количестве видеопотоков. По мере роста числа одновременно обрабатываемых потоков средний FPS на один поток ожидаемо снижается.

Самый показательный результат – связка PowerEdge R360 и NVIDIA A2 вышла на тот уровень, который заявляет NVIDIA как максимально ожидаемый: при 48 одновременных потоках в конце десятиминутного прогона каждый из них стабильно обрабатывался со средней частотой 30 кадров в секунду. В целом показатель 30 FPS считается отраслевым стандартом для типичных видеопотоков, например, телевизионного вещания и большинства систем видеонаблюдения.

Дополнительно фиксировалась загрузка процессора во время тестов. Ожидаемо максимальные значения наблюдались при обработке 48 потоков, однако во всех протестированных режимах нагрузка на CPU оставалась в диапазоне примерно от 2 до 8 процентов. Это означает, что основная часть вычислительных ресурсов процессора оставалась свободной и могла использоваться для других задач даже при выполнении видеоаналитики на базе DeepStream.

С точки зрения энергопотребления на графике ниже показано наложение потребляемой мощности GPU на общее энергопотребление системы. Независимо от числа одновременно обрабатываемых потоков, доля потребления мощности графическим адаптером составляет порядка 25–27 процентов от суммарной мощности, потребляемой всем сервером.

Наконец, была зафиксирована зависимость загрузки GPU от числа потоков. Этот показатель колебался сильнее, чем прочие телеметрические метрики, однако при максимальном числе тестируемых потоков загрузка графического адаптера составила около 50 процентов. То есть указанные выше результаты удалось получить, не выводя GPU на предельную загрузку.

Если нужно, далее можно коротко подчеркнуть вывод для бизнеса: у такой конфигурации остается запас по производительности GPU для роста числа потоков или усложнения моделей без немедленного апгрейда оборудования.

Описанные сценарии лишь частично раскрывают потенциал производительности серверов PowerEdge R360. В задачах 3D рендеринга и начального инференса ИИ дополнительный GPU NVIDIA A2 позволяет компаниям малого и среднего бизнеса постепенно выходить на вычислительно сложные кейсы – как в офисной инфраструктуре, так и на периферийных площадках. Иными словами, R360 готов масштабироваться вместе с бизнесом по мере того, как потребности в вычислениях неизбежно и довольно быстро растут.

При этом поддержка GPU - лишь одна из ключевых особенностей PowerEdge R360. Эти серверы используют новые процессоры Intel Xeon E серии, до 1,4 раза более быструю память DDR5, подсистему загрузки NVMe BOSS и интерфейсные порты PCI Express пятого поколения. Дополнительно можно ориентироваться на результаты отраслевых тестов: для этих моделей зафиксировано до 108 процентов прироста процессорной производительности по сравнению с предыдущим поколением при сохранении ориентированности на доступный по бюджету, начальный серверный сегмент.

Заключение

Dell PowerEdge R360 объединяет обновленную платформу Intel Xeon E серии, более быструю память DDR5, шину PCI Express пятого поколения и подсистему загрузки NVMe BOSS, предлагая заметный скачок производительности по сравнению с предыдущим поколением. В тестах SPEC CPU 2017 прирост процессорной мощности достигает до 108 процентов, а конфигурация с Intel Xeon 6300P дополнительно повышает показатель «производительность на доллар», что делает модернизацию инфраструктуры экономически обоснованной. 

Поддержка графического адаптера NVIDIA A2 расширяет сценарии применения сервера: от классических задач 3D рендеринга, где зафиксирован до пятикратного рост скорости и до 1,7 раза более высокая производительность на вложенный доллар, до видеоаналитики на базе NVIDIA DeepStream, позволяющей обрабатывать до 48 потоков с частотой 30 кадров в секунду при умеренной загрузке CPU и GPU. 

В совокупности PowerEdge R360 можно рассматривать как универсальную 1U платформу для компаний, которые хотят одновременно сократить число физических серверов, подготовиться к росту вычислительных нагрузок и аккуратно войти в проекты по использованию искусственного интеллекта - от офисных систем до узлов на периферии.

Руководство пользователя:

• Техническое_руководство_(Dell EMC Poweredge R360).pdf

• Datasheet (Dell EMC Poweredge R360).pdf