interestingengineering.com détecté sur le web

Microsoft dévoile Maia 300 : rack 96 puces à 167 kW pour 2027

3 médias qui couvrent ce sujet

TL;DR

  • Multi-chiplet design on TSMC N2P separates compute from memory controllers and I/O, boosting compute FLOPs 36% over a monolithic chip.
  • Each 167 kW rack holds 96 accelerators, double Maia 200 density; two-tier networking supports 12,288-accelerator superpods at three hops maximum.
  • NUMA memory organization is new in Maia 300, letting software place data near the specific chiplet that consumes it.

Microsoft rangera 96 accélérateurs Maia 300 dans un rack à 167 kilowatts, avec des déploiements de production prévus pour 2027. L'annonce du 12 octobre, rapportée par Interesting Engineering, pose les chiffres d'un chantier que Redmond construit depuis plusieurs générations de silicium maison.

Chaque puce associe huit piles HBM4 pour un pic de 18 téraoctets par seconde de bande passante, dans une enveloppe thermique de 950 watts par accélérateur. Au niveau du rack, Microsoft revendique 27,6 téraoctets de capacité HBM et 1,7 pétaoctet par seconde de bande passante mémoire agrégée. Les tuiles de calcul sortent du nœud N2P de TSMC et s'appuient sur un design multi-chiplet qui sépare calcul, contrôleurs mémoire et I/O.

L'argument commercial tient en une phrase du papier : "Microsoft says Maia 300 should deliver 40% more tokens per megawatt than leading GPU-based systems", avec aussi "up to seven times the token throughput" face au Maia 200. Dans le même paragraphe, le journaliste Aamir Khollam prend ses distances : "the company has not detailed independent benchmarks for these comparisons." Le GPU de référence n'est jamais nommé.

Le Maia 200 tourne déjà aux États-Unis, en Europe et en Australie, et Microsoft prévoit que GitHub Copilot et Microsoft Foundry basculent dessus d'ici fin 2026. Le Maia 300, lui, visera Copilot, les modèles OpenAI, les modèles MAI maison, les familles open source, et "Dragon Copilot, its clinical AI assistant". Le plan plus long parle de "multi-gigawatt Maia deployments starting" en 2027.

L'annonce s'ajoute à une séquence serrée : notre tracker Infrastructure IA a enregistré 289 articles sur 90 jours, dont la veille l'alerte conjointe de Hock Tan et Lip-Bu Tan sur le capital comme vrai goulot d'étranglement de l'IA.

Ce qu'en disent les autres médias

Couverture consolidée 2h après publication

  1. Microsoft Azure Blog Lire →

    First-party architectural deep dive covering chiplet split, NUMA memory model, two-tier network topology, and 12,288-accelerator superpod scale; the authoritative spec source.

    Maia 300 delivers up to 7 times greater rack-scale token throughput and more than 2.5 times the performance per watt compared with Maia 200.
  2. IEEE ComSoc Tech Blog Lire →

    Systems-level skeptical read: argues peak bandwidth and compute figures don't establish real-world efficiency without independent validation across production workloads.

    It's basically delivering more intelligence for every watt, every dollar, and every byte of memory by optimizing across the entire system.