Supermicro com NVIDIA HGX Blackwell Air-Cooled, estamos falando principalmente de sistemas HGX B200 e HGX B300 com 8 GPUs SXM, destinados a IA em escala de datacenter. A Supermicro oferece versões 8U e 10U para B200 e uma plataforma 8U para B300.

Principais características

*A documentação atual da Supermicro apresenta algumas configurações de memória B200 diferentes conforme a página/modelo; portanto, para uma proposta comercial, vale validar o SKU exato.

1. Oito GPUs NVIDIA HGX

A principal característica é que não são oito GPUs PCIe convencionais.

O servidor utiliza uma base HGX com 8 GPUs NVIDIA SXM, conectadas através de NVLink/NVSwitch.

          NVIDIA HGX BLACKWELL
                  │
     ┌────────────┴────────────┐
     │                         │
  GPU B200/B300            GPU B200/B300
     │                         │
     ├──────── NVLink ─────────┤
     │       NVSwitch          │
     ├─────────────────────────┤
     │                         │
  GPU B200/B300            GPU B200/B300
     │                         │
     └────── 8 GPUs ───────────┘

Isso é fundamental para workloads em que as GPUs precisam trocar grandes volumes de dados, principalmente LLMs, treinamento distribuído e inferência de modelos grandes. A Supermicro especifica 1,8 TB/s de interconexão GPU-GPU.

2. Supermicro HGX B200 Air-Cooled

Os principais sistemas incluem o SYS-822GS-NBRT, de 8U Front I/O, e configurações de 10U Rear I/O, como o SYS-A22GA-NBRT.

O SYS-822GS-NBRT, por exemplo, possui:

• 8 × NVIDIA HGX B200;

• GPUs de até 1.000 W;

• NVLink + NVSwitch;

• 32 slots DIMM;

• até 8 TB DDR5 ECC RDIMM;

• 8 × E1.S NVMe hot-swap;

• 2 × M.2 NVMe;

• até 8 × PCIe 5.0 x16 LP;

• 2 × PCIe 5.0 x16 FHHL;

• 6 × fontes redundantes de 6.600 W;

• refrigeração a ar.

O modelo 10U SYS-A22GA-NBRT possui configuração ainda mais robusta, com 6 fontes redundantes de 5.250 W e uma arquitetura de refrigeração composta por 19 ventiladores contrarrotativos de 80 × 80 × 38 mm, além de ventiladores internos.

3. Supermicro HGX B300 Air-Cooled

O principal modelo atual é o:

Supermicro SYS-822GS-NB3RT

É um servidor 8U, com:

• 8 × NVIDIA HGX B300;

• 288 GB HBM3e por GPU;

• 2,3 TB HBM3e total;

• NVLink de 5ª geração;

• 1,8 TB/s GPU-GPU;

• 8 × NVIDIA ConnectX-8 SuperNIC;

• até 800 Gb/s;

• 32 × DIMM;

• até 8 TB DDR5;

• 8 × E1.S NVMe;

• 2 × M.2;

• 2 × PCIe 5.0 x16 FHHL;

• 6 × fontes redundantes de 6,6 kW;

• 12 ventiladores de alta capacidade;

• refrigeração exclusivamente a ar.

A Supermicro também oferece a plataforma AS-8126GS-NB3RT, baseada em AMD EPYC.

4. Networking de altíssimo desempenho

Uma característica particularmente importante da arquitetura HGX Blackwell é a relação:

1 GPU : 1 NIC

No B200, a Supermicro utiliza ConnectX-7 ou BlueField-3, chegando a 400 Gb/s por interface nas configurações de referência.

No B300, são 8 × ConnectX-8 SuperNIC, com até 800 Gb/s.

Isso permite interligar múltiplos servidores HGX utilizando:

• NVIDIA Spectrum-X Ethernet;

• NVIDIA Quantum-X800 InfiniBand;

• Ethernet de alta velocidade;

• InfiniBand.

  
  

5. Grande capacidade de memória do sistema

Além da HBM3e das GPUs, esses servidores possuem uma grande quantidade de memória DDR5.

No SYS-822GS-NB3RT:

32 DIMMs → até 8 TB DDR5 RDIMM

A configuração pode chegar a:

• até 4 TB a 6.400 MT/s em 1DPC;

• até 8 TB a 5.200 MT/s em 2DPC.

Isso é importante para datasets muito grandes, pré-processamento, pipelines de IA e workloads HPC.

6. Armazenamento NVMe

Os sistemas foram projetados para alto throughput de armazenamento.

No B300 SYS-822GS-NB3RT:

8 × E1.S NVMe hot-swap

mais:

2 × M.2 NVMe

Isso permite separar, por exemplo:

• boot;

• sistema operacional;

• cache;

• datasets;

• checkpoints;

• modelos;

• armazenamento temporário de treinamento.

7. Alimentação elétrica

Esse é um dos pontos mais importantes em uma especificação comercial.

No B300:

6 × 6.600 W

em configuração redundante 3+3.

Portanto, estamos falando de uma plataforma de aproximadamente 39,6 kW de capacidade instalada de PSU, embora isso não signifique que o servidor consuma continuamente 39,6 kW.

No B200 8U, a Supermicro também utiliza 6 × 6.600 W.

Isso exige atenção especial a:

• tensão elétrica;

• PDU;

• circuitos;

• capacidade do rack;

• UPS;

• distribuição trifásica;

• capacidade de refrigeração do datacenter.

8. Air-Cooled — uma característica importante

O termo Air-Cooled não significa que seja um servidor convencional com alguns ventiladores.

São sistemas projetados especificamente para dissipar a enorme carga térmica das GPUs.

No B200:

8 × 1.000 W = até 8 kW somente nas GPUs.

No B300:

8 × 1.100 W = até 8,8 kW somente nas GPUs.

Além disso, existem:

• CPUs;

• DIMMs;

• NVSwitch;

• NICs;

• SSDs;

• VRMs;

• fontes;

• PCIe.

Por isso os sistemas utilizam heatsinks e ventilação de alta capacidade. A Supermicro destaca especificamente sua arquitetura de Next-Gen Air Cooling para B200 e B300.

9. Densidade de GPU

Um dos grandes benefícios da arquitetura é a densidade.

Um servidor

8 GPUs

4 servidores em rack

32 GPUs

A Supermicro informa que a arquitetura B200 pode chegar a 32 GPUs por rack com quatro sistemas air-cooled, enquanto sua arquitetura B300 também utiliza quatro nós por rack em configurações típicas.

E isso pode ser escalado para clusters muito maiores.

A Supermicro apresenta, por exemplo, um AI SuperCluster B300 air-cooled de 32 nós / 256 GPUs, com 73,7 TB de HBM3e agregados.

10. Principais workloads

A Supermicro posiciona esses sistemas para:

IA / Machine Learning

• treinamento de modelos;

• deep learning;

• inferência;

• LLM;

• GenAI;

• modelos multimodais;

• reasoning;

• agentic AI.

HPC

• simulação científica;

• engenharia;

• pesquisa;

• descoberta de medicamentos;

• modelagem financeira.

Grandes modelos

• LLM training;

• fine-tuning;

• LLM inference;

• RAG;

• processamento de grandes contextos.

A própria Supermicro lista LLM, Generative AI, AI/Deep Learning Training and Inference e HPC entre as aplicações dos sistemas HGX B200/B300.