Soofi S : souverain ne signifie pas vainqueur

Soofi S 30B-A3B atteint les plus hautes performances sur les benchmarks allemands parmi les modèles européens actuels. L’architecture hybride MoE-Mamba assure un débit de décodage supérieur à un contexte de 40K par rapport aux modèles Attention purs de même envergure. Pour une équipe d’infrastructure, le choix du déploiement repose sur une question pragmatique : ces atouts compensent-ils le statut bêta et l’absence de processus opérationnels ?

L’essentiel en bref

Lié :Presque au niveau supérieur, entraîné à moindre coût  /  Le cloud souverain ne s’arrête pas à l’emplacement du serveur

Comparaison des performances avec Qwen et les modèles européens

Soofi atteint 79,1 points sur les agrégats allemands et devance ainsi Nemotron (74,9). Sur le code allemand, l’écart s’agrandit. MBPP-DE atteint 84,2 et signe là le meilleur score parmi les modèles comparés. Ces chiffres sont fournis par les constructeurs et reposent sur des données d’entraînement fortement pondérées en allemand.

Qwen3.5 35B devance Soofi sur l’agrégat anglais avec 74,6 contre 70,1. Sur les benchmarks de raisonnement comme GPQA et BBH, le retard est tout aussi net. Les charges de travail riches en anglais ou en tâches de raisonnement abstrait accusent donc un désavantage sensible face au modèle chinois. Le tableau présente les valeurs de comparaison directe sur l’ensemble des tests.

Les modèles européens Teuken-7B, Apertus, EuroLLM et Salamandra restent en retrait dans les agrégats. Teuken-7B se situe en bas à gauche du graphique. Aleph Alpha a été rachetée par Cohere en avril 2026. Selon les benchmarks disponibles, Soofi est actuellement le modèle européen open source le plus performant de cette taille qui n’appartient pas à une entreprise non européenne.

Ce que le design hybride MoE-Mamba implique en pratique

Soofi utilise au total 30 milliards de paramètres, mais n’en active que environ trois milliards par token. Le composant Mamba remplace une partie de l’attention classique et s’échelonne linéairement avec la longueur du contexte. Ainsi, la vitesse de décodage en tokens par seconde et par GPU reste élevée à un contexte de 40K. Les modèles à attention complète peinent ici avec le KV-Cache qui grossit, lequel consomme la bande passante mémoire et réduit la taille de batch possible. Le composant Mamba maintient quant à lui un état constant et se passe de KV-Cache.

Pour une équipe infrastructure, cela se traduit par une latence plus faible face à de longs documents, à des historiques de conversation étendus ou à des contextes de récupération. Une distinction importante mérite d’être soulignée, car l’ignorer se révèle coûteux en pratique : la part active des paramètres réduit la charge de calcul par token, et non l’empreinte mémoire des poids. Les 30 milliards de paramètres restent intégralement en VRAM ; les économies portent sur les FLOPs et la mémoire d’activation. Le surcoût provient par ailleurs de la logique de routage MoE. Celle-ci génère un overhead lors du batching, de l’équilibrage de charge et de la planification des activations d’experts, ainsi qu’un surcoût de communication en environnement multi-GPU. Le graphique positionne Soofi selon ses capacités et son débit mesuré.

Le graphique place le modèle en haut à droite, là où capacité et débit mesuré sont tous deux élevés. Aucun modèle européen n’occupait jusqu’ici cette zone. Cette position résulte de la combinaison entre la sélectivité MoE et l’efficacité de Mamba sur les longs contextes.

Besoins en ressources et ce qui est réaliste aujourd’hui

L’entraînement a consommé, selon les indications du fabricant, environ 253.000 heures GPU B200 sur l’Industrial AI Cloud de Deutsche Telekom à Munich. Environ 27.000 milliards de tokens d’entraînement avec une forte pondération allemande ont été utilisés. La licence est permissive, mais l’accès est actuellement limité à une bêta fermée.

Lors de l’inférence, la charge de calcul par token se rapproche donc d’un modèle avec trois milliards de paramètres actifs. Une équipe économise ainsi du temps de calcul, mais doit tout de même prévoir la mémoire d’un modèle de 30 milliards pour les poids. Dans la version bêta, il manque des versions stables, des chemins de mise à jour documentés et des indications claires sur la compatibilité avec les frameworks d’inférence courants comme vLLM ou TensorRT-LLM.

Sont réalistes aujourd’hui les études de faisabilité internes, les expériences Long-Context et les premiers ajustements fins sur données propres. Pour des systèmes productifs avec des SLA définis en matière de disponibilité et de latence, l’état actuel ne suffit généralement pas. L’intégration dans les pipelines MLOps existants nécessite un travail supplémentaire de développement et de validation en interne.

Le débat sur l’efficacité de l’effort d’entraînement

Les critiques de la communauté d’experts relèvent un chevauchement d’architecture et de Mixture d’environ 80 % avec le Nemotron 3 Nano de Nvidia. Selon cette lecture, un Continual Pretraining sur le modèle existant aurait nécessité nettement moins de temps de calcul. Les 253.000 heures GPU B200 apparaissent, sous cet angle, particulièrement élevées. La métrique Capability-Index définie en interne est également jugée exagérée par plusieurs observateurs.

L’équipe de Michael Fromm rétorque que l’objectif n’était pas d’obtenir le score Eval le plus bas possible. Un modèle entraîné entièrement à partir de zéro, avec sa propre pipeline de données, offre une meilleure reproductibilité technique et une évolution plus ciblée qu’un simple checkpoint étranger sur lequel on se contente de greffer.

Techniquement, le trade-off reste limpide. Ceux qui exigent un contrôle total sur les données d’entraînement et leur pondération acceptent le surcoût. Ceux qui recherchent une baseline performante avec un effort supplémentaire minimal se tournent plutôt vers le Continual Pretraining ou un modèle déjà disponible.

Qui assume la responsabilité de l’exploitation

En production, une équipe gère elle-même les correctifs, les mises à jour de sécurité et la réponse aux incidents. Aucun fournisseur commercial ne prend en charge les SLA, la supervision ni des temps de réponse garantis. Une panne ou une faille de sécurité relève intégralement de la responsabilité de l’exploitant.

Le travail d’entraînement provient d’un consortium de recherche. La poursuite du développement dépend de la pérennité de ce projet. En adoptant Soofi, on crée une dépendance à l’égard d’un processus de développement qui n’est pas conçu en priorité pour la stabilité opérationnelle. Cela accroît l’effort nécessaire en matière d’observabilité interne, de stratégies de rollback et de procédures d’urgence. C’est précisément ce point qui reste la question la plus délicate lors du passage du benchmark à l’exploitation réelle.

Questions fréquentes

Source de l’image de couverture : générée par IA (juillet 2026)