Disaggregierte Inferenz: Warum AWS und Cerebras die GPU trennen
Cloud-Inferenz wird zerlegt: AWS und Cerebras trennen Prefill und Decode auf eigene Chips. Was das für GPU-Auslastung und Kosten von Cloud-Teams heißt.
AWS und Cerebras bauen die KI-Inferenz auseinander. Statt einer GPU, die alles macht, übernimmt ein Chip die Eingabe und ein zweiter die Ausgabe. Der Schritt klingt nach Hardware-Detail, verschiebt aber die Frage, die jedes Cloud-Team bei wachsenden KI-Lasten stellt: Welche Rechenleistung kaufe ich wofür und wo zahle ich für Reserven, die ich nie nutze?
Das Wichtigste in Kürze
- Geteilte Arbeit, geteilte Hardware: AWS und Cerebras trennen die Inferenz in zwei Phasen. AWS-Trainium-Chips übernehmen das Prefill, also die Verarbeitung der Eingabe, Cerebras-Systeme das Decode, die Erzeugung der Antwort.
- Tempo ist das Versprechen: Laut den Anbietern soll die Architektur deutlich schneller arbeiten als bisherige Inferenz auf Amazon Bedrock. Die Zahlen stammen aus Hersteller-Benchmarks und gehören entsprechend eingeordnet.
- Für Cloud-Teams zählt die Logik dahinter: Spezialisierte Chips für unterschiedliche Phasen sind ein Signal. Wer Inferenzkosten ernst nimmt, plant Workloads künftig nach Phase, nicht nach einer pauschalen GPU.
Verwandt:Apple teilt KI-Inferenz auf: Gerät gegen Cloud / OpenTofu vs. Terraform: welches IaC-Tool trägt
Was AWS und Cerebras angekündigt haben
Was ist disaggregierte Inference? Disaggregierte Inferenz zerlegt die Beantwortung einer KI-Anfrage in getrennte Phasen und weist jede einer eigenen, darauf optimierten Hardware zu. Statt eines einzigen Beschleunigers, der den gesamten Vorgang stemmt, übernehmen spezialisierte Chips jeweils den Teil, für den sie am besten geeignet sind.
Im März 2026 haben AWS und Cerebras eine Zusammenarbeit angekündigt, die genau dieses Prinzip umsetzt. Nach Darstellung der Anbieter übernehmen AWS-Trainium-Chips das Prefill, die Verarbeitung der Eingabeaufforderung und Cerebras-Hardware das Decode, die Erzeugung der Antwort Token für Token. Verbunden werden beide über eine schnelle Netzwerkverbindung. Angeboten werden soll das Ganze als zusätzliche Inferenz-Stufe innerhalb von Amazon Bedrock, ohne dass Kunden dafür neue Instanztypen oder eigene Schnittstellen brauchen.
Zum Tempo nennen die Anbieter konkrete Werte. Laut den veröffentlichten Hersteller-Benchmarks erreicht das Cerebras-System bei einem großen offenen Modell ein Vielfaches der Token-Rate aktueller GPUs und die kombinierte Architektur soll mehrere Male schneller sein als die bisherige Bedrock-Inferenz. Solche Zahlen kommen vom Anbieter und sind vor dem Praxiseinsatz mit eigenen Lasten zu prüfen.
Warum Prefill und Decode verschiedene Hardware brauchen
Die beiden Phasen einer Anfrage stellen gegensätzliche Anforderungen an die Hardware. Genau das macht die Trennung sinnvoll.
Prefill verarbeitet die gesamte Eingabe auf einmal. Das ist rechenintensiv, verlangt aber wenig Speicherbandbreite. Decode dagegen erzeugt die Antwort Wort für Wort und muss dafür bei jedem einzelnen Token das Modell aus dem Speicher holen. Diese Phase ist bandbreitenhungrig und lastet eine klassische GPU ganz anders aus. Eine einzige Hardware für beides bedeutet immer einen Kompromiss: Was für das Prefill passt, liegt im Decode oft brach.
| Merkmal | Prefill | Decode |
|---|---|---|
| Aufgabe | Eingabe verarbeiten | Antwort Token für Token erzeugen |
| Engpass | Rechenleistung | Speicherbandbreite |
| Profil | Kurz, parallelisierbar | Sequenziell, speicherlastig |
| Im AWS-Cerebras-Modell | AWS Trainium | Cerebras-System |
Was das für die GPU-Strategie von Cloud-Teams heißt
Die wenigsten DACH-Unternehmen werden diese Architektur direkt nutzen. Das Prinzip dahinter betrifft sie trotzdem. Sie zeigt, dass eine einzige Allzweck-GPU für jede KI-Last zunehmend zum Kompromiss wird, zumindest dort, wo Tempo und Kosten wirklich zählen.
Konkret heißt das dreierlei. Erstens lohnt es sich, Inferenz-Workloads nach Phase zu betrachten, statt pauschal Rechenzeit zu buchen. Zweitens verschiebt sich die Kostenfrage: Wer eine teure GPU für eine bandbreitenlastige Decode-Phase reserviert, zahlt für Rechenleistung, die brachliegt. Drittens bleibt die Abhängigkeit im Blick. Eine Inferenz-Stufe, die exklusiv an eine Cloud-Plattform gebunden ist, bringt Tempo, erhöht aber die Bindung an genau diesen Anbieter.
Für Teams, die heute Modelle in eigener Umgebung oder über Kubernetes betreiben, ist das ein Hinweis auf die Richtung. Scheduling und Ressourcenplanung werden granularer. Wer früh versteht, welche Phase seiner Workloads welche Ressource frisst, kann die Kaufentscheidung an realer Auslastung statt an Pauschalannahmen ausrichten.
Häufige Fragen
Was bedeutet disaggregierte Inference einfach gesagt?
Die Beantwortung einer KI-Anfrage wird in Phasen zerlegt, die auf unterschiedlicher Hardware laufen. Im Fall von AWS und Cerebras übernimmt ein Chip die Verarbeitung der Eingabe, ein anderer die Erzeugung der Antwort. Jede Phase läuft auf der Hardware, die am besten zu ihr passt.
Worin unterscheiden sich Prefill und Decode?
Prefill verarbeitet die Eingabe und ist vor allem rechenintensiv. Decode erzeugt die Antwort Token für Token und braucht dafür viel Speicherbandbreite, weil das Modell für jeden Schritt aus dem Speicher geholt wird. Die gegensätzlichen Profile sind der Grund für die Trennung.
Sind die genannten Geschwindigkeitswerte belastbar?
Die Zahlen stammen aus Hersteller-Benchmarks von AWS und Cerebras. Sie zeigen die Richtung, ersetzen aber keinen eigenen Test. Wer die Architektur erwägt, sollte sie mit den eigenen Modellen und Lastprofilen prüfen, bevor er sich auf die Werte verlässt.
Muss ich als Cloud-Team jetzt etwas ändern?
Kurzfristig nicht. Die Architektur wird zunächst exklusiv über Amazon Bedrock angeboten. Die sinnvolle Reaktion ist, die eigenen Inferenz-Workloads nach Phasen und Engpässen zu verstehen, damit künftige Kaufentscheidungen auf realer Auslastung beruhen.
Welches Risiko bringt eine spezialisierte Inferenz-Stufe mit?
Vor allem Anbieterbindung. Eine Inferenz-Stufe, die nur auf einer Cloud-Plattform läuft, bringt Tempo, bindet die Last aber an diesen Anbieter. Diese Abhängigkeit gehört in jede Wirtschaftlichkeitsrechnung, neben dem reinen Geschwindigkeitsgewinn.
Bildquelle: KI-generiert (Juli 2026)
