The Playbook
ai-strategy

Welches LLM für welchen Use Case? Vier Prüfachsen für einen Markt, der sich alle acht Wochen dreht

llm-auswahl ai-strategie model-routing deepseek mistral frontier-models datenresidenz eu-ai-act cpto

Mein Redaktions-Stack lief im Juni drei Tage auf einem Modell, das es am vierten Tag nicht mehr gab. Am 9. Juni launchte Anthropic Claude Fable 5, am 12. Juni setzte eine US-Exportkontroll-Direktive den Zugriff weltweit aus, am 30. Juni kam die Freigabe zurück. Wer dazwischen Benchmarks gebaut hat, bekam ein 404 statt einer Vergleichszahl — die Geschichte steht in Fable 5: war es da, ist es weg.

Der Rest des Sommers hielt das Tempo. 9. Juli: OpenAI schiebt GPT-5.6 nach, elf Wochen nach GPT-5.5. 20. Juli: DeepSeek V4 geht in General Availability, zwei Varianten, 1 Million Token Kontext, Kampfpreise. 24. Juli: DeepSeek schaltet die alten Endpoints deepseek-chat und deepseek-reasoner hart ab — wer seinen Code nicht umgestellt hatte, bekam Fehlermeldungen statt Antworten. Am selben Tag bringt Anthropic Opus 5, positioniert als Fable-5-Niveau zum halben Preis.

Sieben Wochen, sechs Ereignisse, von denen jedes einzelne eine im Frühjahr getroffene Modell-Entscheidung entwertet. Die Frage „welches LLM passt zu meinem Use Case?” hat darum 2026 zwei Ebenen: die Auswahl selbst und den Prozess, der die Auswahl alle paar Wochen neu prüft. Für beides taugen vier Prüfachsen.

ACHSE 1 TASK-FIT Eigene Evals schlagen jedes Leaderboard: Golden Set aus 20–50 realen Fällen pro Use Case ACHSE 2 PREIS UND KONTEXT Faktor 100 zwischen den Enden: Frontier nur, wo Evals den Aufpreis belegen ACHSE 3 DATENRESIDENZ UND GOVERNANCE API-Nutzung und Open Weights in der EU sind zwei getrennte Rechtslagen ACHSE 4 EXIT-FÄHIGKEIT Gateway als Pflicht-Layer, getestetes Zweitmodell, modellneutrale Prompts ALLE ACHT WOCHEN NEU PRÜFEN

Die vier Prüfachsen als Schleife: Task-Fit, Preis und Kontext, Datenresidenz und Governance, Exit-Fähigkeit. Kein Einmal-Entscheid — der Zyklus beginnt alle acht Wochen von vorn, weil der Markt sich schneller dreht als jeder Bakeoff-Foliensatz altern kann.

Achse 1: Task-Fit — eigene Evals schlagen jedes Leaderboard

Die Modelle sind inzwischen so spezialisiert, dass eine Gesamtnote nichts mehr aussagt. DeepSeek V4 liegt nach eigenen Angaben bei Reasoning und agentischen Tasks vorn, bei Coding gleichauf mit den US-Modellen, fällt aber bei Wissenstests ab und verarbeitet nur Text — keine Bilder, kein Audio. Das ist für einen Dokumenten-Extraktions-Workflow irrelevant und für einen Support-Bot mit Screenshot-Anhängen ein K.-o.-Kriterium.

Wie weit Benchmark-Ruhm und reale Nutzung auseinanderliegen, zeigen die OpenRouter-Zahlen vom Juni: Claude Opus 4.8 führte praktisch jeden Intelligence-Benchmark und lag nach Token-Volumen trotzdem nur auf Platz 7. Ganz vorn: DeepSeek mit 17,6 % Plattform-Anteil, chinesische Anbieter zusammen bei 46 % des zugeordneten Token-Volumens. Nutzung folgt Preis und Task-Fit, die Benchmark-Krone folgt der PR-Abteilung.

Praktische Konsequenz: pro Use Case ein eigenes Golden Set von 20 bis 50 realen Fällen aus dem eigenen Betrieb, mit erwarteten Ergebnissen, automatisch ausführbar. Das kostet einen Nachmittag pro Use Case und ist die einzige Zahl, die bei einem Modellwechsel wirklich trägt. Wer stattdessen dem Leaderboard vertraut, wählt sein Modell de facto per LinkedIn-Feed.

Achse 2: Preis und Kontext — Faktor 100 zwischen den Enden

Die Preisspreizung im August 2026, jeweils Input/Output pro Million Tokens:

ModellInputOutputKontext
DeepSeek V4 Flash$0,14$0,281M
DeepSeek V4 Pro$0,435$0,871M
GPT-5.5$5,00$30,001M
Claude Opus 5~$5~$25
Claude Fable 5$10,00$50,00

Zwischen V4 Flash und Fable 5 liegt beim Output Faktor 180. Bei einem Workflow mit 50 Millionen Output-Tokens im Monat entscheidet die Modellwahl über $14 oder $2.500 — pro Monat, pro Workflow. Dass OpenAI zwischen GPT-5.4 und GPT-5.5 die Token-Preise glatt verdoppelt hat ($2,50/$15 auf $5/$30), gehört ebenfalls in die Rechnung: Auch der Preis, mit dem im Frühjahr kalkuliert wurde, kann im Herbst schon doppelt so hoch stehen.

Zwei Details, die in Preistabellen gern untergehen. Erstens: DeepSeek berechnet seit V4 in Stoßzeiten den doppelten Preis, und zwar in den Beijing-Arbeitsblöcken 9–12 und 14–18 Uhr Ortszeit. Der zweite Block ist 8–12 Uhr MESZ — der europäische Vormittag kostet also das Doppelte, nächtliche Batch-Jobs laufen zum Basispreis. Zweitens: 1 Million Token Kontext ist bei den neuen Generationen Baseline. Für RAG-Architekturen verschiebt das die Abwägung, wie viel man in den Prompt packt statt in den Retrieval-Layer.

Wie man diese Kosten misst, taggt und pro Kunde zurechnet, steht im AI-FinOps-Insight — hier nur der Auswahl-Grundsatz: Default-on-Frontier ist die teuerste Einzelentscheidung im Stack. Frontier-Modelle gehören an die Use Cases, deren Eval-Ergebnisse den Aufpreis belegen.

Achse 3: Datenresidenz und Governance — die China-Frage richtig stellen

Bei chinesischen Modellen werden regelmäßig zwei Fragen vermischt, die getrennt gehören.

Frage eins: Darf ich die App oder API des Anbieters nutzen? Für DeepSeek ist die deutsche Aufsichtslage eindeutig. Die Berliner Datenschutzbeauftragte hat die DeepSeek-App im Juni 2025 bei Apple und Google als rechtswidrigen Inhalt gemeldet: Übermittlung personenbezogener Daten nach China ohne Angemessenheitsbeschluss und ohne ausreichende Garantien, Verstoß gegen Art. 46 DSGVO. Was für die App gilt, gilt der Logik nach auch für die API, wenn personenbezogene Daten im Prompt stecken. Für Kundendaten scheidet der direkte API-Weg damit aus.

Frage zwei: Darf ich die offenen Gewichte auf eigener oder europäischer Infrastruktur betreiben? Das ist eine andere Rechtslage. Ein Open-Weight-Modell auf einem Frankfurter GPU-Cluster überträgt nichts nach China; hier bleiben Lizenzfragen und die eigene Absicherung, aber kein Drittlandtransfer. Die günstigen chinesischen Modelle sind für europäische B2B-Firmen also vor allem über Hosting-Zwischenschichten interessant — EU-Inference-Anbieter, Hyperscaler-Regionen, eigenes Hosting.

Wer Datenresidenz von vornherein als Anforderung setzt, landet bei drei Optionen: US-Frontier-Modelle über EU-Regionen von Azure, Bedrock oder Vertex mit vertraglicher EU-Verarbeitung; Mistral als europäischer Anbieter, seit April mit Medium 3.5 (128 Mrd. Parameter, zuschaltbarer Reasoning-Modus) und einem neuen Open-Weight-Modell im Early Access; oder Open Weights selbst betreiben. Die Fable-5-Episode hat dieser Achse noch eine Facette hinzugefügt: Auch US-Modelle können über Nacht aus regulatorischen Gründen verschwinden. Jurisdiktionsrisiko ist keine reine China-Kategorie.

Regulatorisch gilt seit dem 2. August 2026 die volle Durchsetzungsbefugnis der EU-Kommission für GPAI-Modelle; die Hochrisiko-Pflichten aus Annex III wurden per Digital Omnibus auf Dezember 2027 verschoben. Für Modell-Einkäufer heißt das konkret: GPAI-Transparenzdokumentation vom Anbieter einfordern, bevor man ihn in die engere Wahl nimmt. Details im EU-AI-Act-Insight.

Achse 4: Exit-Fähigkeit — das unterschätzte Kriterium

Der Sommer hat drei Ausfallszenarien real vorgeführt: staatliche Abschaltung (Fable 5, 18 Tage weg), harter API-Bruch mit kurzer Frist (DeepSeek, Legacy-Endpoints tot am 24. Juli) und Preisverdopplung zwischen Generationen (OpenAI). Jedes dieser Szenarien trifft eine Architektur, die direkt gegen eine Provider-API programmiert ist, mit vollem Schaden.

Exit-Fähigkeit lässt sich in drei Punkten herstellen. Ein Gateway wie LiteLLM oder OpenRouter als Pflicht-Layer, sodass kein Application Code eine Provider-API direkt kennt. Pro kritischem Use Case ein benanntes und im Eval durchgetestetes Zweitmodell; ein Failover, der nie gelaufen ist, ist wie ein Backup, das nie restored wurde. Und Prompts, die nicht heimlich modellspezifisch geworden sind — was sich nur über regelmäßige Eval-Läufe gegen das Zweitmodell feststellen lässt.

Der Aufwand ist überschaubar. Ein LiteLLM-Setup steht in zwei bis drei Tagen, das Zweitmodell-Eval läuft im selben Golden Set mit, das Achse 1 ohnehin verlangt.

Die Matrix, Stand August 2026

Mit dem Verfallsdatum-Hinweis, den dieser Text selbst predigt: Das ist eine Momentaufnahme, in acht Wochen neu prüfen.

Use CaseErste WahlEU-sensible Alternative
Coding-Agents, Dev-ToolingOpus 5 oder GPT-5.6dieselben über EU-Region
Massen-Klassifikation, ExtraktionDeepSeek V4 Flash (gehostet in EU)Mistral Small 4
Kundensichtbarer Chat mit personenbezogenen DatenGPT-5.6 / Opus 5 über EU-RegionMistral Medium 3.5
Long-Context-Research, große DokumentbeständeDeepSeek V4 ProGPT-5.5 (1M Kontext, EU-Region)
Höchste Reasoning-Anforderung, Preis nachrangigFable 5— (Jurisdiktionsrisiko eingepreist)

Wichtiger als jede Zeile dieser Tabelle ist die Spalte, die fehlt: das Datum des letzten eigenen Eval-Laufs pro Use Case.

Auswahl ist ein Betriebsprozess

In AI Agents brauchen Aufsicht ging es darum, dass ein deployter Agent ohne Monitoring still degradiert. Auf der Modell-Ebene wiederholt sich das Muster eine Etage tiefer: Auch die Modell-Entscheidung degradiert still, wenn niemand sie erneut prüft — der Markt bewegt sich schneller als jeder Bakeoff-Foliensatz altern kann. Ein quartalsweiser Eval-Lauf über alle Use Cases, ein Blick auf die Gateway-Kostenreports und eine Stunde Preisvergleich reichen, um die Entscheidung frisch zu halten. Das ist weniger Aufwand als ein einziger im Frühjahr großangelegter Modell-Vergleich, der im Sommer Makulatur ist.

Wer die vier Achsen einmal als Prozess aufgesetzt hat, kann Modell-Launches gelassen lesen. Wer sie nicht hat, für den ist jeder Launch-Dienstag ein kleines Architektur-Risiko. Der Sommer 2026 hat gezeigt, wie kurz die Halbwertszeit einer Modellwahl geworden ist. Es gibt keinen Grund anzunehmen, dass der Herbst langsamer wird.