Soofi S: souverän heißt nicht Sieger

Soofi S 30B-A3B erreicht auf deutschen Benchmarks die höchsten Werte unter den aktuellen europäischen Modellen. Die hybride MoE-Mamba-Architektur hält bei 40K Kontext einen höheren Decode-Durchsatz als reine Attention-Modelle derselben Größenklasse. Für ein Infra-Team entscheidet sich der Einsatz an einer nüchternen Frage: Wiegen diese Eigenschaften den Beta-Status und die fehlenden Betriebsprozesse auf?

Das Wichtigste in Kürze

Verwandt:Fast auf Spitzenniveau, günstiger trainiert  /  Sovereign Cloud endet nicht am Serverstandort

Leistungsvergleich mit Qwen und den europäischen Modellen

Soofi erreicht auf den deutschen Aggregaten 79,1 Punkte und liegt damit vor Nemotron mit 74,9. Bei deutschem Code wird der Abstand größer. MBPP-DE erreicht 84,2 und markiert dort den Bestwert unter den verglichenen Modellen. Diese Zahlen sind Herstellerangaben und stützen sich auf Trainingsdaten mit starker deutscher Gewichtung.

Qwen3.5 35B schlägt Soofi auf dem englischen Aggregat mit 74,6 zu 70,1. Bei Reasoning-Benchmarks wie GPQA und BBH fällt der Rückstand ebenso klar aus. Workloads mit hohem Anteil englischer oder abstrakter Reasoning-Aufgaben zeigen damit einen spürbaren Nachteil gegenüber dem chinesischen Modell. Die Tabelle listet die direkten Vergleichswerte über alle Testfelder.

Die europäischen Modelle Teuken-7B, Apertus, EuroLLM und Salamandra liegen in den Aggregaten weiter zurück. Teuken-7B sitzt im Diagramm links unten. Aleph Alpha wurde im April 2026 von Cohere übernommen. Laut den vorliegenden Benchmarks ist Soofi damit derzeit das stärkste offene europäische Modell dieser Größenordnung, das nicht in nicht-europäischem Firmenbesitz steht.

Was das hybride MoE-Mamba-Design praktisch bedeutet

Soofi nutzt 30 Milliarden Parameter insgesamt, aktiviert pro Token aber nur rund drei Milliarden. Die Mamba-Komponente ersetzt Teile der klassischen Attention und skaliert linear mit der Kontextlänge. Dadurch bleibt die Decode-Geschwindigkeit in Tokens pro Sekunde und GPU bei 40K Kontext hoch. Volle Attention-Modelle kämpfen hier mit dem wachsenden KV-Cache, der die Speicherbandbreite auffrisst und die mögliche Batch-Größe drückt. Die Mamba-Komponente hält stattdessen einen konstanten Zustand und kommt ohne KV-Cache aus.

Für ein Infra-Team heißt das niedrigere Latenz bei langen Dokumenten, langen Chat-Verläufen oder Retrieval-Kontexten. Wichtig ist dabei eine Unterscheidung, die sich in der Praxis rächt, wenn man sie überliest: Der aktive Parameter-Anteil senkt den Rechenaufwand pro Token, nicht den Gewichtsspeicher. Im VRAM liegen weiterhin alle 30 Milliarden Parameter, gespart wird an FLOPs und Aktivierungsspeicher. Der Preis liegt zusätzlich in der MoE-Routing-Logik. Sie erzeugt Aufwand bei Batching, Load-Balancing und der Planung der Experten-Aktivierungen, im Multi-GPU-Betrieb dazu Kommunikations-Overhead. Das Diagramm ordnet Soofi nach Fähigkeit und gemessenem Durchsatz ein.

Es zeigt das Modell oben rechts, bei hoher Capability und dem höchsten gemessenen Durchsatz. In diesem Feld saß bislang kein europäisches Modell. Die Position ergibt sich aus der Kombination von MoE-Selektivität und Mamba-Effizienz bei langem Kontext.

Ressourcenbedarf und was heute realistisch geht

Das Training verbrauchte nach Herstellerangaben etwa 253.000 B200-GPU-Stunden auf der Industrial AI Cloud der Deutschen Telekom in München. Rund 27.000 Milliarden Trainings-Token mit starker deutscher Gewichtung flossen ein. Die Lizenz ist permissiv, der Zugang aktuell aber auf eine geschlossene Beta beschränkt.

Bei der Inferenz liegt der Rechenaufwand pro Token also näher an einem Modell mit drei Milliarden aktiven Parametern. Ein Team spart damit Rechenzeit, muss für die Gewichte aber weiterhin den Speicher eines 30-Milliarden-Modells einplanen. In der Beta fehlen stabile Versionen, dokumentierte Update-Pfade und klare Angaben zur Kompatibilität mit gängigen Inferenz-Frameworks wie vLLM oder TensorRT-LLM.

Realistisch möglich sind heute interne Machbarkeitsstudien, Long-Context-Experimente und erste Feinabstimmungen auf eigenen Daten. Für produktive Systeme mit definierten Verfügbarkeits- und Latenz-SLAs reicht der aktuelle Stand meist nicht. Die Integration in bestehende MLOps-Pipelines kostet zusätzliche eigene Entwicklungs- und Validierungsarbeit.

Die Effizienzdebatte um den Trainingsaufwand

Kritiker aus der Fachcommunity sehen eine Architektur- und Mixture-Überlappung von rund 80 Prozent mit Nvidias Nemotron 3 Nano. Ein Continual Pretraining auf dem bestehenden Modell hätte nach dieser Einschätzung deutlich weniger Rechenzeit gebraucht. Die 253.000 B200-GPU-Stunden wirken unter diesem Blickwinkel hoch. Die selbst definierte Capability-Index-Metrik gilt einigen Beobachtern zudem als überzeichnend.

Das Team um Michael Fromm hält dagegen, das Ziel sei nicht die niedrigste Eval-Zahl gewesen. Ein von Grund auf selbst trainiertes Modell mit eigener Datenpipeline lässt sich technisch besser reproduzieren und gezielter weiterentwickeln als ein fremder Checkpoint, auf den man nur aufsetzt.

Technisch bleibt der Trade-off klar. Wer die volle Kontrolle über Trainingsdaten und Gewichtung braucht, akzeptiert den höheren Aufwand. Wer eine starke Baseline mit minimalem Zusatzaufwand sucht, greift eher zu Continual Pretraining oder einem fertigen Modell.

Wer den Betrieb verantwortet

In Produktion organisiert ein Team Patches, Security-Updates und Incident-Response selbst. Es gibt keinen kommerziellen Anbieter, der SLA, Monitoring oder feste Reaktionszeiten übernimmt. Ein Ausfall oder eine Sicherheitslücke fällt vollständig in die Verantwortung des Betreibers.

Die Trainingsarbeit stammt aus einem Forschungs-Konsortium. Die Weiterentwicklung hängt am Fortbestand dieses Projekts. Wer Soofi einsetzt, baut damit eine Abhängigkeit von einem Entwicklungsprozess auf, der nicht primär auf Betriebsstabilität ausgelegt ist. Das erhöht den Aufwand für eigene Observability, Rollback-Strategien und Notfallprozesse. Genau dieser Punkt bleibt beim Übergang vom Benchmark in den Echtbetrieb die härteste offene Frage.

Häufige Fragen

Quelle Titelbild: KI-generiert (Juli 2026)