Microsoft dévoile Maia 300 : rack 96 puces à 167 kW pour 2027
TL;DR
- Microsoft commits all Copilot and internal AI inference to Maia 300 from 2027, replacing third-party GPU suppliers for every first-party workload.
- The chiplet design separates compute on TSMC N2P from I/O and memory controllers, a disaggregated pattern AWS Trainium and Google TPU both use.
- A 96-chip, 167 kW rack delivering 27.6 TB of HBM4 makes Maia 300 a datacenter specification as much as a chip announcement.
Microsoft rangera 96 accélérateurs Maia 300 dans un rack à 167 kilowatts, avec des déploiements de production prévus pour 2027. L'annonce du 12 octobre, rapportée par Interesting Engineering, pose les chiffres d'un chantier que Redmond construit depuis plusieurs générations de silicium maison.
Chaque puce associe huit piles HBM4 pour un pic de 18 téraoctets par seconde de bande passante, dans une enveloppe thermique de 950 watts par accélérateur. Au niveau du rack, Microsoft revendique 27,6 téraoctets de capacité HBM et 1,7 pétaoctet par seconde de bande passante mémoire agrégée. Les tuiles de calcul sortent du nœud N2P de TSMC et s'appuient sur un design multi-chiplet qui sépare calcul, contrôleurs mémoire et I/O.
L'argument commercial tient en une phrase du papier : "Microsoft says Maia 300 should deliver 40% more tokens per megawatt than leading GPU-based systems", avec aussi "up to seven times the token throughput" face au Maia 200. Dans le même paragraphe, le journaliste Aamir Khollam prend ses distances : "the company has not detailed independent benchmarks for these comparisons." Le GPU de référence n'est jamais nommé.
Le Maia 200 tourne déjà aux États-Unis, en Europe et en Australie, et Microsoft prévoit que GitHub Copilot et Microsoft Foundry basculent dessus d'ici fin 2026. Le Maia 300, lui, visera Copilot, les modèles OpenAI, les modèles MAI maison, les familles open source, et "Dragon Copilot, its clinical AI assistant". Le plan plus long parle de "multi-gigawatt Maia deployments starting" en 2027.
L'annonce s'ajoute à une séquence serrée : notre tracker Infrastructure IA a enregistré 289 articles sur 90 jours, dont la veille l'alerte conjointe de Hock Tan et Lip-Bu Tan sur le capital comme vrai goulot d'étranglement de l'IA.
Ce qu'en disent les autres médias
-
Microsoft Azure Blog Lire →
First-party deep dive with NUMA memory architecture details, superpod 12,288-accelerator topology, and disaggregated prefill/decode design specs absent from third-party coverage.
Maia 300 delivers up to 7 times greater rack-scale token throughput and more than 2.5 times the performance per watt compared with Maia 200.
-
Heise Online Lire →
Explicitly benchmarks Maia 300 against AWS Trainium and Google TPU; frames the announcement in terms of several billion dollars of infrastructure investment and several million chips at stake.
Starting in 2027, large quantities of the third-generation Maia chips, Maia 300, are to be deployed in Azure data centers.
-
Techzine Global Lire →
Frames Maia 300 around bandwidth efficiency over raw compute: HBM4 delivers 18 TB/s with only 200W more power than Maia 200, with MXFP4 to reduce KV-cache memory requirements.
Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems.
-
Hyperframe Research Lire →
Argues Microsoft's competitive moat is rack-level density and decode throughput engineering, not die performance, making this a full-stack datacenter systems bet.
Microsoft measures Maia by the gigawatt, not the die, claiming 40% more tokens per megawatt from a rack built to fill halls rather than strand space.
Article original publié par interestingengineering.com
Lire l'article original →Titre original : Microsoft dévoile Maia 300, rack 96 puces à 167 kW en HBM4 pour un déploiement multi-gigawatt dès 2027