ggml atteint la v1.0.0 : API figée, FP8 et YaRN configurables

Le projet ggml, la brique C/C++ sur laquelle repose llama.cpp, a publié sa v1.0.0 le 13 novembre 2026, conjointement à llama.cpp 1.0.0. Les notes de release résument la bascule en une phrase : « prunes the deprecated public API and the legacy DIAG_MASK ops, adds configurable YaRN truncation and FP8 support, and brings broad performance work across backends. »

Côté API, la version retire 35 fonctions dépréciées côté llama.cpp, supprime les opérations historiques DIAG_MASK_INF et DIAG_MASK_ZERO côté ggml, et fait passer le protocole RPC à la v9. L'API NextN de décodage spéculatif, auparavant exposée via l'en-tête d'extension llama-ext.h, est promue dans l'en-tête public llama.h et entre donc dans le contrat de versioning. Deux nouvelles fonctions, ggml_rope_set_truncate et ggml_rope_get_truncate, permettent de régler la troncature YaRN projet par projet.

L'inférence gagne les caches KV au format OCP FP8 activables via -ctk/-ctv f8_e4m3, avec échelles statiques par tenseur en option, et un cache hôte pour les experts MoE paramétrable par moe_cache_size et moe_cache_cpu_share. Les notes listent aussi des optimisations backend ciblées : fusion du routage MoE dans un même command buffer côté Metal, kernel FlashAttention prefill pour Intel côté Vulkan, scheduler MoE exécuté device-side côté SYCL, et matmuls NVFP4 fusionnés côté CUDA.

Selon unite.ai, l'annonce relayée via le Hugging Face Blog revendique plus de 150 variantes d'architectures supportées entre les deux projets, réparties sur huit chemins d'accélération matérielle (CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU, Hexagon et CPU). Chez AI Weekly, c'est l'une de nos 154 stories open source suivies sur les 90 derniers jours.