Vercel AI Gateway
Vercel AI Gateway ist ein Proxy- und Routing-Layer für LLM-API-Calls, der hinter einem einzigen Endpunkt Modelle von OpenAI, Anthropic, Google, xAI, Groq, Mistral und weiteren Anbietern bündelt. Entwickler tauschen Provider per String-Wechsel (openai/gpt-4o → anthropic/claude-sonnet-4), erhalten Failover, Spend-Limits, Rate-Caps und ein konsolidiertes Billing über Vercel. Das Produkt ist seit Sommer 2025 generell verfügbar und richtet sich an Teams, die AI SDK- oder MCP-basierte Anwendungen auf Vercel betreiben — direkt integriert in das hauseigene AI SDK und die Vercel-Plattform.
Überblick
- Typ: AI Gateway / LLM Routing & Observability
- Hersteller: Vercel Inc.
- Hauptsitz Hersteller: San Francisco, USA
- Gründungsjahr Hersteller: 2015 (als ZEIT, später umbenannt)
- Produkt-Launch: Public Beta Mai 2025, GA August 2025
- Website: vercel.com/ai-gateway
- Bereitstellung: SaaS, integriert in Vercel-Account
- Pricing: Pay-per-token zu Provider-Listenpreisen, kein Aufschlag; Free-Tier mit Credits, kostenpflichtig ab Pro-Plan
- Kompatibilität: OpenAI-kompatible REST-API, native Provider-Integration im AI SDK 5+
Produkt und Funktionen
Das Gateway sitzt als einheitlicher Endpunkt vor mehreren hundert LLMs. Wer das Vercel AI SDK nutzt, schaltet das Gateway über die Provider-ID gateway bzw. das Modell-Präfix scharf — ohne separaten API-Key pro Provider. Authentifizierung erfolgt entweder per Vercel-OIDC-Token (für Deployments auf Vercel) oder klassisch per AI_GATEWAY_API_KEY.
Kernfunktionen:
| Feature | Beschreibung |
|---|---|
| Unified API | Ein Endpunkt für OpenAI, Anthropic, Google, xAI, Groq, Mistral, DeepSeek, Perplexity, Cohere, Amazon Bedrock u. a. |
| Automatic Failover | Bei Provider-Ausfall oder Rate-Limit Routing auf alternatives Modell/Provider gemäß fallbackModels-Liste |
| BYOK | Bring-your-own-Key pro Provider möglich, kombinierbar mit Gateway-Credits |
| Spend Controls | Per-Key-Spend-Limits, Rate-Limits, Budget-Alerts |
| Observability | Logs, Latency, Token-Counts, Kosten pro Request im Vercel-Dashboard |
| Prompt Caching | Anthropic Cache-Control wird durchgereicht, OpenAI Automatic Caching unterstützt |
| Streaming & Tool Calls | Vollständige Unterstützung für Streaming, Tool/Function Calling, strukturierte Outputs |
| Embeddings | Embedding-Modelle ebenfalls über das Gateway verfügbar |
Anders als ein klassischer Proxy markupt Vercel die Token-Preise nicht auf — die Marge liegt im Bundle mit der Plattform (Fluid Compute, AI SDK, Sandbox, Observability), nicht im Gateway selbst.
Geschichte und Entwicklung
Vercel hatte mit dem AI SDK seit 2023 eine TypeScript-Bibliothek im Markt, die schnell zum De-facto-Standard für AI-Features in Next.js-Apps wurde. Das Gateway entstand als logische Ergänzung, nachdem klar wurde, dass Kunden ohnehin mehrere Provider gleichzeitig nutzen und sich an Failover, Key-Management und Billing-Chaos abarbeiteten.
- Mai 2025: Public Alpha im Rahmen der Vercel Ship Conference, gemeinsam mit AI SDK 5
- Juli 2025: Beta, native Integration ins AI SDK über das
gateway-Provider-Modul - August 2025: Generelle Verfügbarkeit, Pricing ohne Markup
- Herbst 2025: Erweiterung um Embeddings, Prompt-Caching-Passthrough, MCP-Tool-Routing
- 2026: Ausbau Richtung agentische Workflows in Kombination mit Vercel Workflow DevKit und Sandbox
Strategisch ist das Gateway Teil von Vercels Pivot vom reinen Frontend-Hoster zur AI-Application-Plattform. Die Kombination AI SDK + Gateway + Fluid Compute + Sandbox + AI Cloud positioniert Vercel gegen Cloudflare Workers AI und gegen Hyperscaler-eigene AI-Stacks.
Team und Führung
Vercel wird geführt von:
- Guillermo Rauch — CEO und Gründer, vorher Cloudup und Automattic, treibt die AI-Strategie öffentlich auf X und in Keynotes
- Malte Ubl — CTO, vorher Principal Engineer bei Google (AMP, Search)
- Lee Robinson — VP of Product, Stimme der Developer Experience
- Cris Stringfellow / Jared Palmer — AI-Lead, treibt AI SDK und Gateway
Die Engineering-Mannschaft hinter dem Gateway sitzt verteilt in den USA, Europa und Lateinamerika. Vercel beschäftigt nach eigenen Angaben rund 600 Mitarbeiter (Stand Ende 2025).
Investoren und Eigentümer
Vercel ist VC-finanziert, kein PE-Buyout. Bekannte Finanzierungsrunden:
| Runde | Datum | Volumen | Bewertung | Lead |
|---|---|---|---|---|
| Series A | 2020 | 21 Mio. USD | — | Accel |
| Series B | 2021 | 40 Mio. USD | — | Bedrock |
| Series C | 2021 | 102 Mio. USD | 1,1 Mrd. USD | Bedrock |
| Series D | 2021 | 150 Mio. USD | 2,5 Mrd. USD | GV |
| Series E | Mai 2024 | 250 Mio. USD | 3,25 Mrd. USD | Accel |
Investoren: Accel, GV (Google Ventures), Bedrock Capital, CRV, SV Angel, Tiger Global, 8VC, GGV (heute Notable Capital), Geodesic Capital. Eine Exit-Prognose lässt sich nicht aus einem PE-Fondsvintage ableiten — bei VC-Backed-Companies dieser Größe ist der wahrscheinliche Pfad ein Börsengang. Rauch hat öffentlich kein konkretes IPO-Datum kommuniziert; Marktbeobachter spekulieren auf ein Fenster ab 2026/2027, sobald sich das IPO-Klima für SaaS-Plattformen stabilisiert.
Konkurrenz
Der AI-Gateway-Markt hat sich 2024/2025 rasant konsolidiert. Direkte Wettbewerber:
| Anbieter | Positionierung | Unterschied zu Vercel |
|---|---|---|
| OpenRouter | Marktführer im Token-Routing, OSS-nah | Provider-agnostisch, kein eigener App-Stack |
| Portkey | Enterprise AI Gateway mit Guardrails | Stärker auf Compliance/Observability, weniger Plattform-Lock-in |
| LiteLLM (BerriAI) | Open-Source-Proxy, self-hosted oder SaaS | OSS-First, Self-Hosting Standard |
| Helicone | Observability + Gateway | Observability-First, Gateway als Add-on |
| Cloudflare AI Gateway | Cloudflare-natives Routing | Tief in Cloudflare-Edge integriert, direkter Plattform-Konkurrent |
| Kong AI Gateway | API-Management-Erweiterung | Enterprise-API-Gateway-Tradition |
| LangDB | Routing + Analytics | Kleinerer Player, OSS |
| AWS Bedrock / Azure AI Foundry | Hyperscaler-eigene Stacks | An eigene Cloud gebunden |
Der natürliche Schwarm um Vercel sind Teams, die ohnehin Next.js und das AI SDK nutzen — für die ist das Gateway eine Ein-Zeilen-Aktivierung. Wer auf Cloudflare, AWS oder Bare-Metal deployt, vergleicht eher mit Portkey, OpenRouter oder einem selbst gehosteten LiteLLM.