A Microsoft apresentou o Maia 300, terceira geração de seus aceleradores próprios para inteligência artificial no Azure. O chip foi projetado para ampliar a capacidade de inferência da empresa e deve começar a ser usado em instalações de vários gigawatts a partir de 2027.
A empresa afirma que o Maia 300 poderá entregar 40% mais tokens por megawatt que os principais sistemas baseados em GPU. A comparação foi apresentada como uma projeção interna e não informa qual GPU foi usada nem o método de medição.
O acelerador ainda não está em produção. Atualmente, o Maia 200 é o modelo em operação e já atende o Copilot nos Estados Unidos, na Europa e na Austrália. O Maia 300 está previsto para 2027.
Especificações do Maia 300
O novo chip usa uma arquitetura de chiplets. O die de computação é fabricado no processo N2P, de 2 nanômetros, da TSMC. O conjunto também inclui dois dies de entrada e saída produzidos em um nó mais antigo.
A configuração conta com quatro módulos de memória DDR RDIMM e oito pilhas de HBM4. Em um rack completo, com 96 aceleradores, o consumo chega a 167 kW, enquanto a memória HBM soma 27,6 TB. Segundo os números divulgados pela Microsoft, o throughput de tokens é sete vezes maior que o de um rack de Maia 200.
A conexão entre os chips usa uma interface Ethernet de transporte de IA em duas camadas. O projeto prioriza inferência, com foco em contextos longos, cargas intensivas de memória e decodificação para agentes capazes de executar tarefas em várias etapas.
Scott Guthrie, vice-presidente executivo de nuvem e IA da Microsoft, disse que o Maia será usado como principal sistema de inferência dos produtos e serviços da companhia. O treinamento de modelos grandes continua fora do escopo do chip, área em que a NVIDIA permanece como opção interna da Microsoft.
Enquanto o Maia 300 não chega, o Maia 200 também apoia a equipe MAI no treinamento de novos modelos. A previsão é que ele receba o GitHub Copilot e o Microsoft Foundry até o fim do ano. Entre as cargas planejadas está o Dragon Copilot, assistente clínico da Nuance, que depende de baixa latência.
A Microsoft informou apenas que pretende escalar a família para instalações de vários gigawatts. Como referência, um gigawatt poderia alimentar cerca de 750 mil casas. Com cada rack consumindo 167 kW, um gigawatt comportaria perto de 6 mil racks, ou mais de meio milhão de chips.
