Moonshot ouvre Kimi K3, MoE 2,8T record en poids ouverts

Il y a un chiffre dans l'annonce de Kimi K3 qui explique pourquoi tout le monde en parle: 2,8 billions de paramètres. Selon Moonshot AI, qui a dévoilé le modèle le 16 juillet 2026 à la World Artificial Intelligence Conference de Shanghai, c'est le plus gros modèle open-weight jamais annoncé, et les poids doivent atterrir sur Hugging Face le 27 juillet.

L'architecture est une MoE agressive: 16 experts sur 896 s'activent par token, soit environ 50 milliards de paramètres actifs, adossés à un mécanisme baptisé Kimi Delta Attention et à une variante Stable LatentMoE. Nathan Lambert écrit dans Interconnects que K3 est "clairement le modèle ouvert le plus fort jamais publié" et estime que l'écart ouvert-fermé, longtemps évalué à six à neuf mois, s'est resserré à trois à cinq. Il place K3 numéro deux sur l'index Vals AI et numéro trois sur l'Artificial Analysis Intelligence Index, derrière Claude Fable d'Anthropic et GPT-5.6 Sol d'OpenAI.

Le côté pratique est plus austère. En MXFP4, un format flottant quatre bits qui tourne nativement sur les Blackwell de Nvidia et les MI400 d'AMD, les poids pèsent environ 1,4 To. Le rapport de TECHi estime qu'il faudrait de l'ordre de dix-huit accélérateurs 80 Go rien que pour charger le modèle, ou un nœud complet à huit cartes de 192 Go. En clair, open-weight ne veut pas dire sur votre station de travail: ça veut dire audit, fine-tuning et hébergement souverain pour ceux qui ont l'infrastructure.

La réserve honnête est que les termes complets de la licence n'étaient pas encore publiés au moment de l'annonce. Moonshot évoque une licence MIT modifiée, mais TECHi note que la société n'a pas encore publié le texte, ce qui laisse l'usage commercial en suspens. Les comparaisons de performances reposent aussi sur deux classements agrégés, pas sur une batterie détaillée d'évaluations reproductibles, et Simon Willison prend soin de rappeler qu'il ne s'agit encore que d'une promesse: le fichier de poids doit encore être posté sur le dépôt Hugging Face.

Ce que ça change à court terme est surtout stratégique. Les hébergeurs cloud spécialisés, les équipes recherche qui veulent disséquer une architecture MoE frontière, et les entreprises qui refusaient l'API chinoise pour raisons de données ont maintenant une option auto-hébergeable, à condition de pouvoir aligner la douzaine et demie de GPU qui va avec.