Dell PowerEdge XE9780 (HGX B300)

Dell PowerEdge XE9780 (HGX B300)

Сточный 10U AI-сервер с воздушным охлаждением — флагманская платформа Dell для самых тяжёлых нагрузок искусственного интеллекта. Построен на двух процессорах Intel Xeon 6-го поколения (архитектура Granite Rapids, до 86 ядер на CPU) и интегрированном модуле NVIDIA HGX B300 NVL8 с восемью GPU на архитектуре Blackwell Ultra, объединённых через NVLink 5-го поколения. Ключевая особенность — воздушное охлаждение: сервер интегрируется в стандартные стойки ЦОД без перестройки инфраструктуры под жидкостное охлаждение. Платформа поставляется в предконфигурированной сборке с процессорами, памятью и полной GPU-подсистемой. 

Основные характеристики

 - Процессоры: два Intel Xeon 6 Performance-серии (6787P, 6776P, 6767P, 6747P), от 48 до 86 ядер на процессор (172 потока), TDP 330–350 Вт, до 4 × UPI 2.0 на 24 ГТ/с. 

 - Графика: 8 GPU NVIDIA HGX B300 NVL8 (Blackwell Ultra, SXM), по 288 ГБ HBM3e на каждый GPU — суммарно 2304 ГБ (2,3 ТБ) видеопамяти на узел. Теплопакет каждого GPU — 1100 Вт. Полная связность через NVIDIA NVLink 5. Суммарная производительность: 72 PFLOPS в FP8/FP6 (тренировка) и 144 PFLOPS в FP4 (инференс). 

 - Память: 32 слота DDR5 ECC RDIMM (16 на процессор, 8 каналов), модули 64/96/128 ГБ, до 4 ТБ максимум (32 × 128 ГБ), скорость 6400 MT/s при 1DPC или 5200 MT/s при 2DPC, напряжение 1,1 В. 

 - Накопители: до 16 × E3.S Gen5 NVMe (до 245 ТБ) или до 10 × U.2 Gen5 NVMe SSD (до 153 ТБ). Загрузочный массив — BOSS-N1 DC-MHS с двумя M.2 SSD в аппаратном RAID 1. Контроллеры: PERC H965i, S160 Software RAID. 

 - Сеть: 8 интегрированных OSFP-портов от ConnectX-8 SuperNIC (только для конфигурации B300), 1 слот OCP 3.0 SFF (Gen5 x8) под NVIDIA BlueField-3 DPU (B3220 или B3240). 

 - Расширение: 4 слота PCIe 5.0 x16 FHHL до 150 Вт (слоты 3, 6, 9, 12). 

 - Питание: 12 блоков питания по 3200 Вт, резервирование 6+6, класс Titanium, горячая замена, вход 200–240 В AC или 240 В DC. 

 - Охлаждение: воздушное — 15 hot-swap вентиляторов для GPU (двухроторные модули, работают при отказе одного ротора; снятый вентилятор нужно вернуть за 30 секунд) и 5 cold-swap вентиляторов для CPU. 

 - Форм-фактор: 10U Rackmount, габариты 439,5 × 448,0 × 1044,7 мм (с рамкой), вес 159,65 кг (с B300, при полной загрузке E3.S). Статические направляющие, без кабель-менеджмента. 

 - Управление: iDRAC10 Enterprise, iDRAC Direct, OpenManage, Redfish API, RACADM CLI, интеграция с ServiceNow, Ansible, Terraform. 

 - Безопасность: Silicon Root of Trust, Secure Boot, TPM, шифрование данных (SED), System Lockdown, архитектура Zero Trust. 

 - ОС: Canonical Ubuntu Server LTS, Red Hat Enterprise Linux, SUSE Linux Enterprise Server. 

 - Рабочие условия: 10–35 °C (ASHRAE A2), конфигураций A3/A4 не предусмотрено. 

Сфера применения

Платформа заточена под обучение и дообучение (fine-tuning) сверхкрупных языковых моделей уровня 700B+ параметров — 2,3 ТБ HBM3e позволяют запускать модели такого размера без квантизации и с длинным контекстом. Поддержка FP4/FP6/FP8 Transformer Engine ускоряет и тренировку, и инференс. Сервер подходит для production-serving с высоким throughput, RAG-систем с большими embedding-индексами, генерации изображений и видео (диффузионные модели), а также высокопроизводительных вычислений (HPC). Воздушное охлаждение делает платформу особенно привлекательной для корпоративных дата-центров и облачных провайдеров, которые хотят получить максимум GPU-мощности без перехода на жидкостную инфраструктуру.