Supermicro SYS-822GS-NB3RT-01-G2 — NVIDIA HGX B300 8-GPU AI Server, 2× Intel Xeon 6768P, 2 ТБ DDR5
Supermicro SYS-822GS-NB3RT-01-G2 — высокопроизводительный сервер для искусственного интеллекта, машинного обучения и масштабных вычислений, построенный на платформе NVIDIA HGX B300 с восемью GPU-ускорителями архитектуры Blackwell. Система предназначена для развёртывания корпоративной AI-инфраструктуры, обслуживания больших языковых моделей, обучения нейросетей, научных вычислений и работы с ресурсоёмкими приложениями в дата-центрах.
Сервер объединяет восемь NVIDIA B300 с суммарным объёмом 2304 ГБ памяти HBM3e, два процессора Intel Xeon 6768P с общим количеством 128 ядер, 2 ТБ оперативной памяти DDR5-6400 ECC и высокоскоростную сетевую подсистему NVIDIA ConnectX-8. Внутреннее соединение GPU реализовано с использованием NVIDIA NVLink пятого поколения и NVSwitch.
Модель входит в семейство Supermicro Gold Series и поставляется как предварительно сконфигурированная система формата 8U. Архитектура рассчитана на интенсивный обмен данными между ускорителями, параллельное выполнение вычислений и интеграцию в многосерверные AI-кластеры.
NVIDIA HGX B300 — восемь ускорителей Blackwell
В основе сервера находится вычислительная платформа NVIDIA HGX B300 8-GPU, объединяющая восемь GPU-ускорителей NVIDIA B300 в единую высокопроизводительную систему.
Архитектура Blackwell предназначена для современных задач искусственного интеллекта, включая обучение и инференс больших нейронных сетей, обработку мультимодальных данных и вычисления с использованием различных форматов чисел.
Восемь ускорителей позволяют распределять вычислительную нагрузку между GPU, что особенно важно при обработке больших моделей, запуске нескольких AI-сервисов и выполнении задач, требующих значительных вычислительных ресурсов.
Платформа подходит для:
обучения и дообучения больших языковых моделей;
корпоративного LLM-инференса;
генеративного и мультимодального AI;
систем компьютерного зрения;
научных симуляций;
анализа больших массивов данных;
распределённых GPU-вычислений.
Фактическая производительность зависит от выбранной модели, формата вычислений, размера пакета запросов, программного обеспечения и конфигурации кластера.
2304 ГБ HBM3e — память для масштабных AI-моделей
Каждый NVIDIA B300 оснащён 288 ГБ высокоскоростной памяти HBM3e.
Общий объём памяти восьми ускорителей составляет 2304 ГБ, или приблизительно 2,3 ТБ HBM3e.
Такой объём особенно важен для больших языковых моделей, которым требуется значительное пространство для хранения весов, промежуточных вычислений и KV-кэша.
Для отдельных ускорителей NVIDIA заявляет пропускную способность памяти до 8 ТБ/с. Совокупная теоретическая пропускная способность памяти восьми GPU достигает 64 ТБ/с.
В практических задачах большой объём HBM3e позволяет размещать крупные модели на нескольких ускорителях и уменьшать необходимость постоянного переноса данных между GPU и оперативной памятью сервера.
При этом память не является единым физическим пулом: эффективное использование суммарного объёма зависит от механизмов распределения модели, взаимодействия GPU и возможностей программного стека.
NVIDIA NVLink пятого поколения и NVSwitch
Supermicro SYS-822GS-NB3RT-01-G2 использует NVIDIA NVLink пятого поколения совместно с NVSwitch для высокоскоростного обмена данными между восемью GPU.
Для HGX B300 NVIDIA указывает пропускную способность межсоединения до 1,8 ТБ/с на ускоритель при двунаправленном обмене.
В отличие от конфигураций, где взаимодействие ускорителей преимущественно ограничивается стандартными соединениями PCI Express, NVLink обеспечивает специализированный высокоскоростной канал передачи данных между GPU.
Это особенно полезно при:
тензорном параллелизме больших нейросетей;
распределении слоёв моделей между ускорителями;
коллективных коммуникационных операциях;
обучении с использованием нескольких GPU;
обработке крупных наборов данных;
параллельном инференсе.
NVSwitch обеспечивает коммутацию внутри платформы HGX, помогая организовать интенсивный обмен данными между ускорителями при совместном выполнении вычислительных задач.
Два Intel Xeon 6768P и 2 ТБ DDR5 ECC
Сервер оснащён двумя процессорами Intel Xeon 6768P семейства Intel Xeon 6.
Каждый процессор располагает 64 ядрами, поэтому система предлагает в общей сложности 128 физических процессорных ядер с базовой частотой 2,4 ГГц.
CPU выполняют задачи управления вычислениями, подготовки данных, сетевого взаимодействия и работы серверного программного обеспечения.
В конфигурации установлено 2 ТБ оперативной памяти DDR5-6400 ECC RDIMM, организованной в виде 16 модулей по 128 ГБ.
Большой объём системной памяти полезен для предварительной обработки датасетов, подготовки входных данных для GPU, кэширования и работы нескольких сервисов.
ECC обеспечивает обнаружение и исправление поддерживаемых типов ошибок памяти, что важно при длительных вычислениях и эксплуатации оборудования в дата-центре.
Системная плата предусматривает 32 слота DIMM и возможность дальнейшего увеличения объёма памяти в пределах поддерживаемых производителем конфигураций.
NVIDIA ConnectX-8 — сеть до 800 Гбит/с на порт
Для масштабирования AI-инфраструктуры сервер использует высокоскоростную сетевую подсистему на базе NVIDIA ConnectX-8 SuperNIC.
Платформа поддерживает восемь сетевых подключений с пропускной способностью до 800 Гбит/с на порт. В зависимости от конфигурации сетевого оборудования предусмотрены варианты подключения 800G или разветвления на 400G.
Такая пропускная способность особенно важна при объединении нескольких HGX B300-серверов в вычислительный кластер.
Высокоскоростная сеть используется для обмена данными между вычислительными узлами, синхронизации распределённых задач и организации доступа к сетевым системам хранения.
NVIDIA ConnectX-8 поддерживает технологии ускоренного сетевого обмена, включая RDMA и GPUDirect в совместимых конфигурациях.
Дополнительно на серверной платформе предусмотрены два порта 10 Gigabit Ethernet на базе Intel X710 для подключения к стандартной сетевой инфраструктуре.
NVMe-хранилище и возможности расширения
В готовую конфигурацию SYS-822GS-NB3RT-01-G2 входит загрузочный твердотельный накопитель M.2 NVMe объёмом 960 ГБ.
Он предназначен для размещения операционной системы, системного программного обеспечения и базовых компонентов вычислительной среды.
Конструкция платформы также предусматривает:
восемь фронтальных отсеков E1.S NVMe с горячей заменой;
два слота M.2 NVMe;
интерфейсы PCI Express 5.0 для совместимых плат расширения.
Дополнительные NVMe-накопители могут использоваться для локального кэширования, промежуточных результатов вычислений и размещения рабочих наборов данных.
Важно учитывать, что наличие отсеков не означает установку соответствующих SSD в заводскую комплектацию. Для масштабного хранения обучающих датасетов может потребоваться отдельная высокопроизводительная система хранения данных.
Серверная система охлаждения и резервируемое питание
SYS-822GS-NB3RT-01-G2 выполнен в стоечном корпусе высотой 8U с воздушным охлаждением.
Для отвода тепла от восьми GPU-ускорителей, процессоров и других компонентов платформа использует систему высокопроизводительных вентиляторов с автоматическим управлением скоростью.
Конструкция предусматривает до 12 вентиляторов и мониторинг температурных показателей.
Электропитание организовано с применением резервируемых блоков питания класса Titanium номиналом 6600 Вт на модуль. Точное количество установленных модулей для поставляемой конфигурации необходимо сверять со спецификацией оборудования.
Такая система рассчитана на размещение в специализированной серверной инфраструктуре с соответствующими параметрами электроснабжения, вентиляции и теплоотвода.
Удалённое управление и аппаратная защита
Supermicro предусматривает средства контроля состояния сервера и централизованного администрирования.
Поддерживаются фирменные инструменты управления, включая Supermicro Server Manager и SuperCloud Composer.
Администраторы могут контролировать состояние аппаратных компонентов, получать диагностическую информацию и использовать поддерживаемые механизмы автоматизации обслуживания.
Платформа также предусматривает аппаратные и программные средства безопасности:
TPM 2.0;
Secure Boot;
аппаратный Silicon Root of Trust;
криптографически подписанные прошивки;
защищённые обновления микропрограмм;
средства восстановления прошивки;
контроль состояния системы.
Эти возможности полезны при развёртывании серверов в корпоративной инфраструктуре, где требуется централизованное управление и соблюдение внутренних требований информационной безопасности.
Особенности эксплуатации
Supermicro SYS-822GS-NB3RT-01-G2 предназначен для эксплуатации в дата-центре или специально оборудованном серверном помещении.
Корпус формата 8U имеет глубину около 950 мм и массу порядка 119 кг. При выборе серверной стойки необходимо учитывать её глубину, грузоподъёмность, монтажное пространство и требования к воздушным потокам.
Производитель указывает рабочий температурный диапазон от 10 до 35 °C. Необходимо обеспечить достаточный приток охлаждённого воздуха и отвод тепла, создаваемого компонентами системы.
Для полноценного использования HGX B300 также требуется совместимый программный стек NVIDIA, соответствующие драйверы, фреймворки и средства управления распределёнными вычислениями.
При создании многосерверного кластера необходимо заранее спроектировать вычислительную сеть, хранение данных, электропитание и систему охлаждения. Для этой платформы Supermicro отдельно указывает необходимость сервисного обслуживания на месте установки.
Основные характеристики
Производитель: SupermicroМодель: SYS-822GS-NB3RT-01-G2Серия: Gold Series SuperServerТип: GPU-сервер для AI и HPCФорм-фактор: Rackmount 8UGPU-платформа: NVIDIA HGX B300 8-GPUАрхитектура GPU: NVIDIA BlackwellКоличество GPU: 8Видеопамять одного GPU: 288 ГБ HBM3eОбщая память GPU: 2304 ГБ HBM3eПропускная способность HBM3e: до 8 ТБ/с на GPUМежсоединение GPU: NVIDIA NVLink пятого поколения, NVSwitchПропускная способность NVLink: до 1,8 ТБ/с на GPUПроцессоры: 2 × Intel Xeon 6768PЯдер CPU: 128 суммарноБазовая частота CPU: 2,4 ГГцОперативная память: 2 ТБ DDR5-6400 ECC RDIMMКонфигурация RAM: 16 × 128 ГБЗагрузочный накопитель: 960 ГБ M.2 NVMe SSDДополнительные отсеки: 8 × E1.S NVMe Hot-SwapСетевые ускорители: NVIDIA ConnectX-8 SuperNICВысокоскоростная сеть: до 8 × 800 Гбит/сEthernet: 2 × 10GbE RJ45Материнская плата: Supermicro X14DBG-LCОхлаждение: воздушное, система высокопроизводительных вентиляторовПитание: резервируемые блоки класса TitaniumВысота корпуса: 356 ммШирина корпуса: 449 ммГлубина корпуса: 950 ммМасса: около 119 кгРабочая температура: 10–35 °CНазначение: AI Inference / LLM Training / Generative AI / HPC / Scientific Computing
Кому подойдёт Supermicro SYS-822GS-NB3RT-01-G2
Сервер предназначен для организаций, которым требуется масштабная вычислительная инфраструктура на базе GPU.
AI-компаниям и разработчикам LLM: для обучения, дообучения и обслуживания больших языковых моделей, включая многопользовательский инференс.
Облачным провайдерам: для построения GPU-кластеров и предоставления вычислительных ресурсов корпоративным клиентам.
Научно-исследовательским организациям: для моделирования, анализа больших массивов данных и вычислительных экспериментов.
Крупным предприятиям: для размещения корпоративных AI-сервисов, интеллектуальной аналитики и обработки данных в собственной инфраструктуре.
Инженерным и технологическим компаниям: для вычислений в задачах автоматизации, моделирования физических процессов и компьютерного зрения.
Supermicro SYS-822GS-NB3RT-01-G2 объединяет восемь ускорителей NVIDIA B300, 2,3 ТБ памяти HBM3e, высокоскоростную систему NVLink/NVSwitch и 128 процессорных ядер Intel Xeon в единой серверной платформе. Благодаря большому объёму GPU-памяти, развитой сетевой подсистеме и масштабируемой архитектуре сервер предназначен для построения корпоративных AI-кластеров и выполнения вычислений, требующих значительных аппаратных ресурсов.
Цена зависит от комплектации. Просьба уточнять стоимость/наличие/условия/сроки отгрузки.
