DGX Spark vs. Mac Mini: Prefill zählt
Community-Benchmarks zeigen: DGX Spark dominiert Prefill, Mac Mini hält beim Token-Decode mit. Kaufen Sie den Engpass – nicht die größte Zahl.
Ein Community-Benchmark mit demselben 30B-Modell hat die Local-AI-Debatte geschärft: Beim Prefill ist NVIDIAs DGX Spark in einer anderen Liga, beim Token-Decode liegt ein deutlich günstigerer Mac Mini erstaunlich nah. Wer falsch kauft, zahlt viertausend Euro für die falsche Engpass-Beseitigung.
Das Wichtigste in Kürze
- Prefill ≠ Decode. Spark glänzt beim Einlesen großer Kontexte. Die gefühlte Antwortgeschwindigkeit hängt oft am Decode.
- Preis-Spread. DGX Spark liegt im niedrigen Viertausender-Bereich, ein gut ausgestatteter Mac Mini deutlich darunter.
- Kaufregel. Lange RAG-/Agent-Historien → Prefill-Hardware. Chat und kurze Loops → Apple-Box oder lokale GPU reicht oft.
Verwandt:Mac Studio M5: Cloud-Workloads effizient bewältigen / MacStadium und Scaleway zeigen den M5 im Härtetest
Der Benchmark, der zwei Wahrheiten liefert
In einer viel geteilten Gegenüberstellung liefen Mac Mini M4 Pro, eine AMD-Strix-Halo-Box und DGX Spark dasselbe quantisierte 30B-Modell. Beim Prompt-Processing (Prefill) zog Spark mit über 2.000 Tokens pro Sekunde davon. Beim Token-Generation – der Teil, den man beim Antworten zuschaut – lagen alle drei im ähnlichen Band um die 50 bis 85 Tokens pro Sekunde.
Das erklärt, warum Reviews so widersprüchlich klingen. Manche loben Spark als Desktop-Supercomputer. Andere finden den Mac Mini subjektiv schneller. Beide können recht haben – je nachdem, ob der Bottleneck der Kontext-Input oder der Output-Strom ist.
Wann Prefill das Budget rechtfertigt
Prefill wird teuer spürbar, sobald Agenten große Codebases, lange Chat-Historien oder RAG-Chunks in den Kontext schieben. Jeder neue Turn mit riesigem Prompt frisst Zeit, bevor das erste Token erscheint. Genau dort amortisiert sich Spark-Hardware: weniger Warten vor dem ersten sinnvollen Output, bessere Parallelität bei Batch-Jobs.
Für DACH-Mittelstandsteams heißt das: Wenn der Use Case „30-Seiten-PDF + Repo + Policy“ ist, lohnt Prefill-Power. Wenn der Use Case „täglicher Coding-Chat mit 8k Kontext“ ist, kaufen Sie Overkill.
Mac Mini als Gegenmodell
Apple-Silicon punktet mit Unified Memory, leiser Box und einfachem Betrieb. Für Inference im Alltag – Ollama, lokale Coding-Modelle, Transkription – reicht ein gut spezifizierter Mini oft aus, solange das Modell in den Speicher passt. Der TCO-Vorteil sitzt im Kaufpreis und zusätzlich in Strom, Lärm und weniger Admin-Overhead.
Hybrid-Setups sind der pragmatische Mittelweg: Prefill-starke NVIDIA-Box für schwere Kontexte, Apple-Box für interaktives Decode und Alltags-Automation. Das ist architektonisch aufwendiger, aber ehrlicher als eine Single-Box-Religion.
Entscheidung ohne Marketing
Drei Fragen vor der Bestellung: (1) Wie groß sind typische Prompts? (2) Wie oft laufen mehrere Jobs parallel? (3) Brauchen wir CUDA-Ökosystem oder reicht Metal/MLX? Wer diese drei nicht beantworten kann, sollte erst messen – nicht bestellen.
Was Teams falsch messen
Viele Beschaffungen starten mit einer einzelnen Token-pro-Sekunde-Zahl. Das ist so unvollständig wie ein Auto nur über Höchstgeschwindigkeit zu kaufen. Für lokale KI zählen drei Messgrößen: Prefill bei großen Kontexten, Decode im interaktiven Chat und der Durchsatz bei parallelen Jobs. Wer nur eine Zahl optimiert, baut Blindstellen in den Alltag.
Praktisch hilft ein 48-Stunden-Protokoll im eigenen Stack: dieselben Modelle, dieselbe Quantisierung, reale Prompts aus Tickets und Repos. Dazu Stromaufnahme und Lärm am Arbeitsplatz. Erst danach steht fest, ob der Prefill-Vorteil von DGX-Spark-Klasse den Mehrpreis trägt – oder ob ein Mac Mini mit genug Unified Memory den Engpass des Teams bereits löst.
Für DACH-Mittelstandsteams kommt Compliance dazu. Eine leise Box im Büro kann sensible Codebasen und Kundendaten lokal halten. Das ersetzt keine Cloud-Policy, aber es reduziert unnötige API-Exporte. Genau dieser Mix aus Performance-Profil und Datenkontrolle macht die Hardware-Entscheidung strategisch, nicht nur technisch.
Häufige Fragen
Was ist Prefill?
Die Phase, in der das Modell den Eingabekontext verarbeitet, bevor es Tokens ausgibt. Bei langen Prompts oft der teure Teil.
Was ist Decode?
Die Generierung der Antwort-Tokens. Das ist die Geschwindigkeit, die man beim Lesen der Antwort spürt.
Für wen lohnt DGX Spark?
Für Teams mit großen Kontexten, agentischen Pipelines und Bedarf an NVIDIA-Software-Stack – nicht für reinen Gelegenheits-Chat.
Reicht ein Mac Mini für lokale KI?
Für viele 7B–30B-Szenarien mit passendem RAM ja. Für extreme Prefill-Last und CUDA-only-Tools eher nein.
Sind Community-Benchmarks belastbar?
Als Richtungssignal ja, als Kaufgarantie nein. Quantisierung, Treiber und Software-Stand verändern Zahlen stark.
Lesetipps der Redaktion
cloudmagazinMac Mini als 24/7-KI-Workflow-ServercloudmagazinMac Studio M5: Cloud-Workloads effizient bewältigencloudmagazinMSI Cubi NUC AI+: KI-Box unterm MonitorMehr aus dem MBF Media Netzwerk
MyBusinessFutureInvestitionsstau: Wie KI verborgene Budgets freilegtDigital ChiefsDie IT entscheidet, ob der Spin-off sich auszahltSecurityTodayDer AI Act ist in Wahrheit ein Security-GesetzBildquelle: KI-generiert (Juli 2026)
