Tempo de leitura: 6 minutos
Olá, é um prazer inenarrável estar mais uma vez escrevendo este post. Em fábricas de IA, reservar energia para o pico máximo de cada GPU pode parecer a escolha mais segura, mas também pode deixar uma parte relevante da infraestrutura parada. O NVIDIA DSX MaxLPS tenta resolver esse desperdício redistribuindo a energia disponível entre os recursos de acordo com o consumo real. Em uma avaliação com a Nscale, a tecnologia aumentou o número de GPUs administradas e elevou o throughput agregado sem alterar o orçamento de potência provisionado. Mas existe um detalhe importante: ganhar capacidade não elimina os compromissos com latência, telemetria e segurança operacional.
Como o NVIDIA DSX MaxLPS aproveita energia que ficaria ociosa
Uma infraestrutura de IA normalmente é dimensionada para o cenário em que todos os nós atingem seu consumo máximo ao mesmo tempo. Na prática, porém, as cargas variam. Treinamento alterna entre computação, comunicação, sincronização e checkpoints, enquanto inferência combina etapas de prefill, decodificação, acesso à memória, tráfego de rede e períodos de menor atividade.
Com provisionamento estático, a margem não utilizada por um nó não pode ser facilmente aproveitada por outro. O resultado é uma situação curiosa: a instalação ainda está abaixo do limite agregado, mas GPUs adicionais permanecem desligadas porque a energia foi reservada individualmente.
O NVIDIA DSX MaxLPS monitora o consumo dos recursos participantes e redistribui a potência disponível dentro de limites definidos pelo operador. A proposta não é aumentar a capacidade elétrica do local, e sim usar melhor a capacidade já aprovada.
O que o NVIDIA DSX MaxLPS controla na prática
A tecnologia combina telemetria e políticas de alocação para administrar uma fronteira de recursos que pode envolver GPUs, nós, racks e grupos inteiros. O controle começa com o mapeamento da topologia e a definição de um orçamento agregado de energia.
Depois, o sistema coleta dados de consumo, aplica regras de prioridade, limites por nó, reservas e respostas para situações de manutenção ou emergência. Quando alguns recursos consomem menos do que o previsto, os limites de potência de outros participantes podem ser ajustados para aproveitar a folga disponível.
Esse processo depende de medições confiáveis. Se a topologia estiver incorreta ou os dados chegarem atrasados, a decisão de redistribuição pode deixar de representar o estado real da infraestrutura. Por isso, o controle de energia precisa ser acompanhado por validação e mecanismos de fiscalização do orçamento.
Como foi a avaliação do NVIDIA DSX MaxLPS com a Nscale
A avaliação conjunta entre NVIDIA e Nscale foi realizada no campus Verne, em Keflavík, na Islândia, usando sistemas NVIDIA GB300 NVL72. O teste utilizou cargas do Kimi K2.5 em FP4, NVIDIA Dynamo e NVIDIA TensorRT-LLM, com sequências de entrada de 8 mil tokens e saída de 1 mil tokens.
O cenário de referência tinha 35 nós de quatro GPUs, totalizando 140 GPUs. Nesse ambiente, foram executadas duas instâncias de alto throughput, com 52 GPUs cada, e uma instância de baixa latência, com 36 GPUs.
Na configuração com o NVIDIA DSX MaxLPS, a frota passou a ter 48 nós de quatro GPUs, ou 192 GPUs. A configuração adicionou uma terceira instância de alto throughput e manteve a instância de baixa latência. As cargas distribuídas foram mantidas dentro de um único rack para controlar possíveis diferenças entre racks.
Quais resultados o NVIDIA DSX MaxLPS alcançou
As duas configurações usaram o mesmo orçamento de potência provisionado: 264,4 kW. Ainda assim, a configuração com DSX MaxLPS apresentou ganhos relevantes na capacidade agregada:
- GPUs administradas: de 140 para 192, aumento de 37,1%.
- Throughput agregado: de 1.084.503 para 1.618.443 tokens por segundo, aumento de 49,2%.
- Throughput por watt provisionado: de 4,10 para 6,12 tokens por segundo por watt.
- Potência total medida: de 166,2 kW para 198,9 kW, aumento de 19,7%.
- Utilização do orçamento: de 62,9% para 75,2%.
O ponto mais interessante é que o desempenho por instância permaneceu praticamente estável. O throughput das instâncias de alto throughput passou de 59.153 para 59.220 tokens por segundo, enquanto o da instância de baixa latência permaneceu em 2.265 tokens por segundo.
Esse tipo de resultado é diferente de simplesmente aumentar a potência de um único servidor. A capacidade adicional foi distribuída pela frota, preservando o desempenho das cargas que já estavam em execução. Em cenários de inferência multi-GPU, a forma como os recursos são posicionados e coordenados também importa, como mostra a discussão sobre inferência multi-GPU com TensorRT e Dynamo-Triton.
O ganho de throughput do NVIDIA DSX MaxLPS tem um custo
Os números não significam que a alocação dinâmica elimina todos os compromissos. A mediana e o percentil 75 da latência permaneceram dentro de 5% do cenário de referência, mas o tempo até o primeiro token no percentil 99 aumentou 17%, partindo de uma linha de base de 15,7 segundos.
Essa diferença mostra por que olhar apenas para a média pode ser enganoso. A maior parte das solicitações pode continuar respondendo de forma semelhante, enquanto uma parcela menor enfrenta atrasos mais significativos. Em aplicações interativas, essa cauda de latência pode ser tão importante quanto o throughput agregado.
O resultado também depende do perfil das cargas. Workloads que atingem o pico ao mesmo tempo oferecem menos espaço para redistribuição. Já cargas com padrões complementares podem criar mais oportunidades para aproveitar a margem disponível. Portanto, o desempenho observado não deve ser tratado como uma garantia universal para qualquer fábrica de IA.
Como validar o NVIDIA DSX MaxLPS antes de colocá-lo em produção
A NVIDIA recomenda uma adoção gradual, com limites claros e critérios de aceitação definidos antes de aumentar a capacidade. O primeiro passo é mapear a fronteira administrada, incluindo distribuição elétrica, racks, nós e GPUs, além de estabelecer reservas e comportamentos para escalonamento.
Em seguida, o operador deve executar uma linha de base representativa usando provisionamento estático. Essa etapa precisa medir não apenas throughput e potência, mas também latência, estabilidade e repetibilidade ao longo das variações da carga.
A introdução das políticas deve começar de forma conservadora, próxima do comportamento já validado. Só depois de confirmar a qualidade da telemetria, a resposta do controle e o cumprimento do orçamento é que novos nós devem ser adicionados. Cada aumento de capacidade precisa ser acompanhado por novos testes.
Por fim, a configuração de produção só deve ser aprovada quando atender simultaneamente às metas de throughput e latência, preservar a reserva necessária e reagir de maneira previsível a falhas, transições e reduções na disponibilidade de energia.
O que o NVIDIA DSX MaxLPS revela sobre a eficiência das fábricas de IA
O NVIDIA DSX MaxLPS mostra uma estratégia para transformar variabilidade de consumo em capacidade gerenciada. Na avaliação divulgada pela NVIDIA, o sistema permitiu administrar 192 GPUs em vez de 140 com o mesmo orçamento de potência provisionado, elevando o throughput agregado em 49,2%.
Isso não significa que qualquer instalação obterá o mesmo ganho. O resultado depende da mistura de workloads, do hardware, da rede, do resfriamento, da qualidade da telemetria e dos limites de serviço definidos pelo operador. A principal lição é mais prática: energia disponível não é automaticamente capacidade útil. Para convertê-la em desempenho, é preciso medir, controlar e validar cada etapa.
Assim, a resposta para a questão levantada no início é que o desperdício não está necessariamente na falta de energia, mas na maneira como ela é reservada. O DSX MaxLPS pode recuperar parte dessa capacidade ociosa, desde que o aumento de throughput seja avaliado junto com a latência de cauda, a segurança operacional e a conformidade com os limites elétricos.
