7 Min. Lesezeit Stand: 22.04.2026

Wer in DACH heute Claude, GPT oder Llama produktiv einsetzen will, hat drei Wege: Anthropic-API direkt, AWS Bedrock via EU-Inference-Profile oder Self-Hosted auf eigener Hardware. Am 2. August 2026 tritt die volle Durchsetzung des EU AI Act in Kraft. Damit wird die Frage „wo läuft die Inference?“ zur Compliance-Frage. Wer sich jetzt bewusst festlegt, spart später das Re-Platforming.

Das Wichtigste in Kürze

• Deadline steht: Ab 2. August 2026 hat das EU AI Office volle Durchsetzungsbefugnis gegenüber GPAI-Anbietern, inklusive Bußgelder und Modell-Rückrufe (EU AI Act Implementation Timeline).
• Anthropic fehlt die EU-Region: Die direkte Anthropic-API bietet bis heute nur „us“ und „global“ als Inferenz-Geografie, keinen dedizierten EU-Cluster.
• Bedrock ist der kürzeste Weg zu Claude mit EU-Residency: AWS bedient Claude Opus 4.7 seit April 2026 über Ireland und Stockholm, Frankfurt hängt sich per Cross-Region-Inference-Profile dran.
• Self-Hosted holt auf: Llama 4, Mistral Small 4 und Qwen 3.6 liegen auf MMLU-Pro nur noch 3 bis 5 Prozentpunkte hinter den Closed-Source-Flagships, Inference-Kosten sind um 40 bis 60 Prozent gefallen.
• Die Architektur-Entscheidung ist keine Glaubensfrage: Datenklasse, Latenz-Budget und Team-Skill schlagen jede Hersteller-Empfehlung.

VerwandtOpus 4.7 gegen GPT-5.4 im EU-Cloud-Benchmark  /  Gemma 4 lokal deployen

Die Ausgangslage im April 2026

Was ist KI-Inference? Inference ist der Produktivbetrieb eines trainierten Modells: Ein Text, ein Bild oder eine Tabelle geht rein, eine Antwort kommt raus. Bei LLMs passiert das auf spezialisierter GPU-Hardware, die Tokens sequenziell generiert. Wer im DACH-Raum KI-Features baut, entscheidet vor allem an der Stelle, an der diese Inference-Rechenschritte landen. Das ist keine Nebensache, weil hier regelmäßig personenbezogene Daten, Geschäftslogik und Kundeninteraktionen verarbeitet werden.

Drei Entwicklungen pressen DACH-Teams gleichzeitig. Erstens: Der EU AI Act greift seit August 2025 für neu platzierte GPAI-Modelle, ab 2. August 2026 hat das AI Office volle Enforcement-Power und kann Strafen verhängen (siehe Einordnung für Mittelstands-Tech-Teams). Zweitens: Anthropic hat mit Opus 4.7 das leistungsfähigste Modell am Markt, aber keine dedizierte EU-Region in der Direct-API (Anthropic Privacy Center). Drittens: Open-Source ist auf Benchmark-Augenhöhe mit GPT und Claude. Wer nur Textklassifikation oder RAG-Antworten braucht, bekommt das in der eigenen Cloud.

Das Ergebnis: Die Frage „welches Modell?“ wird in DACH-Enterprise-Settings immer seltener zuerst gestellt. Die erste Frage lautet „wo läuft die Inference?“ und daraus fällt in 80 Prozent der Fälle eine Modellauswahl fast zwangsläufig.

Quelle: European Commission, AI Act Implementation Timeline

Was das für die Architektur-Wahl bedeutet: Jede Route hat einen anderen Compliance-Fußabdruck, eine andere Latenz-Kurve und einen anderen Team-Aufwand. Die folgenden drei Pfade sind keine Alternativen im Sinne von „entweder-oder“, viele Teams fahren am Ende eine Mischung. Sie sind aber die drei sauberen Ausgangspunkte.

Pfad 1: Anthropic Direct API ohne EU-Residency

Die direkte Integration gegen platform.claude.com ist der schnellste Weg zu Claude Opus 4.7. Keine Hyperscaler-Kontokopplung, kein IAM-Rollen-Theater, der SDK-Aufruf ist in vier Zeilen Python oder TypeScript geschrieben. Der Preis dafür: Anthropic bietet in der Direct-API bis heute nur die Geografien „us“ und „global“. Eine dedizierte „eu“-Inference-Region ist nicht angekündigt.

Für DACH-Settings heißt das drei Dinge. Wer nur öffentlich verfügbare Daten, Marketing-Copy oder Code-Generierung verarbeitet, fährt in der Regel gut. Wer personenbezogene Daten im Sinne der DSGVO durch die API schickt, braucht entweder eine solide Rechtsgrundlage nach Art. 44-49 DSGVO plus EU-US Data Privacy Framework oder einen zweiten Weg. Wer unter den EU AI Act als Deployer von Hochrisiko-Systemen fällt, sollte sich spätestens jetzt eine Antwort zurechtlegen, die nicht „wir rufen die US-API auf“ heißt.

Typischer Use-Case: Interne Developer-Tools, Code-Review-Automation, Content-Generierung auf Marketing-Assets. Das funktioniert schmerzarm. Die Reise wird schmerzhaft, sobald Kundendaten, Personaldaten oder ein regulierter Prozess ins Spiel kommen.

Pfad 2: AWS Bedrock via EU-Inference-Profile

Bedrock ist 2026 der pragmatischste Weg, Claude in der EU laufen zu lassen. Claude Opus 4.7 wurde Mitte April 2026 für Ireland und Stockholm aktiviert, Paris und Frankfurt greifen über Cross-Region-Inference-Profiles zu (AWS Weekly Roundup, 20. April 2026). Für Teams mit bestehendem AWS-Footprint ist das die Ein-Stunden-Integration: Model-Access aktivieren, IAM-Policy anpassen, API-Call gegen `bedrock-runtime` mit dem EU-Inference-Profile absetzen.

Der Compliance-Gewinn ist real: Daten-in-Transit und die eigentliche Inferenz bleiben in AWS EU-Regionen, das Data Processing Addendum ist unterschrieben, die Audit-Spur sauber. Wer die Policy-Ausarbeitung sowieso AWS-zentrisch führt, spart sich hier die Debatte mit der Rechtsabteilung.

Die Einschränkungen: Bedrock ist ein Markup auf Anthropic-Preise. Das macht bei High-Volume-Workloads einen spürbaren Unterschied. Neue Claude-Versionen landen tendenziell zuerst in den US-Regionen und ziehen einige Wochen später in die EU nach. Wer bereits tief in Azure oder GCP steckt, muss sich den Netz-Hop zu AWS anschauen. Für Google-Cloud-Teams ist übrigens Vertex AI der analoge Pfad, mit zehn EU-Regionen und derselben Datenresidenz-Logik.

In der Praxis startet ein Team mit bestehender AWS-Kontostruktur so: Model-Access für Claude Opus 4.7 im Bedrock-Console beantragen, eine IAM-Policy mit bedrock:InvokeModel auf die EU-Inference-Profile-ARN legen und im Client-SDK das Profile statt einer konkreten Region-ID übergeben. Damit routet AWS automatisch zur nächsten verfügbaren EU-Region und garantiert, dass Request- und Response-Daten die Geografie nicht verlassen. Cross-Region-Logs landen in CloudWatch, die Audit-Spur ist für die Konformitätsbewertung dokumentiert.

Pfad 3: Self-Hosted Open-Source-Inference

Das ist der Pfad, den noch vor zwölf Monaten fast niemand ernst gefahren hat. 2026 sieht die Rechnung anders aus. Llama 4 von Meta, Mistral Small 4, Qwen 3.6 von Alibaba und DeepSeek V4 liegen in belastbaren Benchmarks nur noch wenige Prozentpunkte hinter GPT und Claude. Der Abstand ist so konsistent, dass in vielen Workloads niemand den Unterschied merkt. Für Klassifikation, Zusammenfassung, strukturierte Extraktion, RAG-Retrieval und Tool-Use ist Open-Source in Produktion angekommen. Für Grenz-Fälle wie Long-Context-Agent-Orchestrierung oder sehr kreative Schreibaufgaben ziehen Claude Opus und GPT weiter davon.

Der technische Stack ist inzwischen eingespielt: vLLM mit PagedAttention als Inferenz-Engine, Hugging Face TGI oder BentoML als Alternative, Triton für Multi-Model-Serving. vLLM hat sich im Laufe von 2025 als De-facto-Standard für hohe Throughput-Szenarien etabliert, der Durchsatz liegt je nach Workload um den Faktor 14 bis 24 über naiven Transformers-Implementierungen.

Die Hardware-Frage ist 2026 nicht mehr trivial, aber machbar. Für ein 70-Milliarden-Parameter-Modell in 4-Bit-Quantisierung reicht eine einzelne H200 oder zwei A100 80 GB, für kleinere Varianten tun es zwei L40S. Wer keine Co-Location will, bekommt das bei deutschen IaaS-Anbietern als vorkonfigurierte GPU-Instanz. Das Kosten-Break-Even gegen Bedrock liegt bei vielen Workloads bei grob 150 bis 250 Millionen Tokens pro Monat, darunter ist Bedrock in der Regel günstiger und einfacher. Eine praxisnahe Einordnung zur Modell-Auswahl liefert der CM-Vergleich RAG vs. Fine-Tuning vs. Prompt Engineering.

Entscheidungsmatrix für DACH-Teams

Die Wahl fällt nicht am Modell, sondern an drei Fragen. Erstens: Welche Datenklasse geht durch die Inference? Öffentliche Daten plus Marketing-Assets laufen auf jeder Route. Personenbezogene Daten, Finanzdaten, Gesundheitsdaten oder sensible Geschäftsdaten forcieren Bedrock oder Self-Hosted. Zweitens: Welches Latenz-Budget hat der Use-Case? Für Chat-Bots mit Sub-Sekunden-Antwort ist Self-Hosted mit EU-Region am schnellsten, wer Streaming-Outputs braucht, fährt mit Bedrock Claude gut. Drittens: Was kann das Team? Ein Web-Team mit solider AWS-Erfahrung bringt Bedrock in einer Woche zum Laufen. Ein MLOps-Team mit GPU-Ops-Erfahrung baut eine vLLM-Produktionsumgebung in sechs bis zehn Wochen.

Wer keines von beidem im Haus hat, sollte nicht mit Self-Hosted anfangen. Das ist keine Schande, es ist eine nüchterne Einschätzung. Ein schlecht betriebener LLM-Cluster produziert mehr Compliance-Risiken als eine saubere Bedrock-Integration, weil fehlendes Monitoring, unpatched CUDA-Stacks und ungesicherte Inference-Endpoints schnell zum Angriffsvektor werden. Bei Bedrock übernimmt AWS diese Operator-Pflichten als Teil des Shared-Responsibility-Modells. Wer sich den Pfad trotzdem offenhalten will, startet mit einem kleineren Modell in einer kontrollierten Umgebung und sammelt Ops-Erfahrung, bevor es in die Produktion geht. Für die Souveränitäts-Diskussion in Leitungsgremien liefert der DC-Beitrag zur lokalen KI einen brauchbaren Gesprächsrahmen.

Das Fenster ist nicht riesig, aber auch nicht geschlossen. Wer im Mai anfängt, hat drei Monate für eine saubere Entscheidung plus Rollout. Wer bis Juni wartet, macht den Sommer zum Compliance-Sprint. Und wer im Juli die Frage noch nicht beantwortet hat, erklärt im August dem Auditor, warum die Inferenz auf einem US-Endpunkt läuft.

Fazit

Die drei Pfade schließen sich nicht aus. Viele DACH-Teams werden Bedrock für sensiblen Workload fahren, Anthropic Direct für interne Dev-Tools und Self-Hosted für hochvolumige, wenig sensitive Klassifikation. Der Punkt ist nicht „Route A oder B“, sondern: Pro Workload eine bewusste Entscheidung mit dokumentierter Begründung. Das ist auch der Audit-Standard, den der EU AI Act ab August 2026 durchsetzt. Wer heute die Inventar-Liste schreibt, hat im August eine Antwort. Wer sie nicht schreibt, bekommt die Antwort dann von außen. Das ist selten die günstigere Variante.

Häufige Fragen

Ist Claude Opus 4.7 schon in Frankfurt verfügbar?

Direkt in eu-central-1 startet Opus 4.7 nicht. Die Aktivierung läuft im April 2026 über Ireland und Stockholm, Frankfurt bekommt den Zugriff per EU-Cross-Region-Inference-Profile. Für die meisten Compliance-Anforderungen reicht das, weil die Inferenz garantiert in EU-Regionen bleibt.

Wann lohnt sich Self-Hosted gegenüber Bedrock?

Faustregel: Ab etwa 150 bis 250 Millionen Tokens pro Monat, abhängig von Prompt-Länge und Output-Tokens. Darunter gewinnt Bedrock fast immer auf Total Cost of Ownership, weil GPU-Ops und MLOps-Personal teuer sind. Darüber kippt die Rechnung.

Reicht das EU-US Data Privacy Framework für die Anthropic Direct API?

Für viele Use-Cases ja, vorausgesetzt die Rechtsgrundlage nach Art. 44-49 DSGVO ist sauber dokumentiert und der Anbieter unter dem Framework zertifiziert. Für Hochrisiko-AI-Systeme im Sinne des EU AI Act ist die Antwort dünner und erfordert zusätzliche Maßnahmen.

Welche Open-Source-Modelle halten in der EU-Produktion stand?

Llama 4 von Meta, Mistral Small 4, Qwen 3.6 von Alibaba und DeepSeek V4 liegen in MMLU-Pro und vergleichbaren Benchmarks nur wenige Prozentpunkte hinter den Closed-Source-Flagships. Für Klassifikation, RAG und Tool-Use ist die Lücke in der Praxis kaum spürbar, bei Long-Context-Agenten ziehen GPT und Claude weiter davon.

Wie groß ist das Risiko, ab 2. August 2026 gegen den EU AI Act zu verstoßen?

Das hängt von der Einstufung des Use-Cases ab. Wer GPAI-Modelle nur als Deployer nutzt und kein Hochrisiko-System baut, kommt mit Dokumentation und Transparenz durch. Wer ein Hochrisiko-AI-System selbst anbietet, braucht Risikomanagement, Logging, Human Oversight und eine Konformitätsbewertung. Die AI-Office-Durchsetzung greift ab 2. August 2026 auch mit Bußgeldern.

Mehr aus dem MBF Media Netzwerk

• EU AI Act ab August: Was Mittelstands-Tech-Teams klären müssen
• Chief AI Officer 2026: Echte Rolle oder der nächste C-Level-Titel?
• On-Premise-KI als Sicherheitsstrategie

Quelle Titelbild: Pexels / panumas nikhomkhai (px:17489157)