Quando um agente abre arquivos, executa código, consulta um banco de dados e chama um modelo, apenas uma parte desse caminho é inferência. Ainda assim, boa parte da infraestrutura de IA continua sendo apresentada como se toda a carga de trabalho coubesse no mesmo tipo de acelerador.

A AMD colocou essa diferença no centro do Helion, apresentado em 12 de outubro. O projeto de referência para racks oferece uma configuração só com CPUs, ligada a uma infraestrutura de inferência separada, e outra que reúne CPU, GPU e computação de uso geral no mesmo rack. A proposta segue especificações do Open Compute Project, e a empresa afirma que pretende contribuir o desenho para o OCP.

O ponto interessante não é dizer que agentes dispensam GPUs. É reconhecer que executar o agente e inferir o modelo são trabalhos diferentes.

Dois planos de computação no mesmo sistema

Na configuração para hyperscalers, o Helion usa processadores EPYC de sexta geração e pode chegar, segundo a especificação da AMD, a 32.768 núcleos de CPU. Esses racks executam agentes e se conectam a outra infraestrutura para as chamadas de modelo. A hipótese é que provedores em grande escala já operam uma camada acelerada compartilhada e podem dimensionar separadamente o trabalho de coordenação.

Para empresas que não querem manter dois ambientes, a segunda configuração combina blades de CPU EPYC, até 16 GPUs Instinct MI350P e servidores para banco de dados, armazenamento e computação técnica. Um roteador de tokens direciona as chamadas de inferência para modelos de fronteira na nuvem ou modelos abertos executados localmente.

A separação ajuda a enxergar onde o tempo e o custo de um fluxo agêntico realmente aparecem:

  • o modelo interpreta, planeja e gera respostas;
  • a camada de execução chama ferramentas, processa dados e mantém tarefas concorrentes;
  • serviços de apoio cuidam de estado, armazenamento, rede e observabilidade.

Essas etapas se influenciam, mas não têm o mesmo perfil de memória, paralelismo ou latência. Colocar tudo na GPU pode desperdiçar capacidade cara. Colocar tudo na CPU pode transformar a inferência no gargalo. O trabalho de arquitetura começa justamente na fronteira entre as duas.

Projeto aberto não é desempenho comprovado

Há limites importantes. Os números publicados são especificações máximas de uma arquitetura de referência, não resultados independentes de throughput, custo por tarefa ou consumo por agente. As configurações com parceiros ainda estão em desenvolvimento e têm disponibilidade planejada para novembro de 2026. A própria AMD trata desempenho, cronograma e benefícios como declarações prospectivas.

Também não existe um “agente médio” que resolva o dimensionamento. Um assistente pessoal que passa boa parte do tempo esperando APIs, um agente de código compilando projetos e uma automação técnica com cálculos intensivos pressionam o rack de maneiras diferentes. A documentação do Helion oferece blades de alta densidade, balanceados e de alta frequência porque essa mistura varia.

Essa é uma diferença relevante em relação aos anúncios recentes de NVIDIA Vera Rubin e DSX e do Microsoft Maia 300. Eles tratam de aceleração e infraestrutura de IA em outras escalas e formatos. O Helion escolhe como problema editorial a composição do rack que circunda a inferência.

Para equipes de AI Engineering, a pergunta prática não é “quantos agentes cabem no rack?”. Antes dela vêm três medições: quanto tempo o fluxo passa no modelo, quanto consome executando ferramentas e quanto fica bloqueado por rede ou serviços externos. Sem esse perfil, “infraestrutura agêntica” é apenas um nome novo na etiqueta do datacenter.

O Helion ainda precisa provar seu valor em implantações reais. Mesmo assim, o desenho registra uma mudança útil: o modelo pode ser a parte mais visível do agente, mas não é necessariamente a parte que deve determinar toda a máquina.

Fontes: anúncio do AMD Helion e especificações e perguntas frequentes do produto.