huggingface.co détecté sur le web

Soofi S : l'Allemagne dévoile un modèle souverain 30B-A3B Mamba-Transformer entraîné à 100 % en énergie renouvelable

Résumé

Le consortium Soofi (KI Bundesverband, Fraunhofer IAIS, TU Darmstadt, DFKI, ellamind) publie Soofi S : un modèle hybride Mamba-Transformer MoE de 30B paramètres, 3,2B actifs, entraîné sur 27 trillions de tokens allemand-anglais. Débits 8-9× supérieurs aux modèles denses 14-24B à 40k de contexte, meilleur code parmi 17 modèles open base, plus fort en aggregate allemand que Olmo 3 32B et Apertus 70B. Entraîné sur 512 GPU B200 sur le German Industrial AI Cloud de Deutsche Telekom, 100 % renouvelable, artefacts complets ouverts.