Langfuse
Langfuse ist eine Open-Source-Plattform für LLM-Engineering, die das Beobachten, Debuggen und Auswerten von Anwendungen mit Large Language Models ermöglicht. Das Berliner Unternehmen bietet Tracing, Prompt-Management, Evaluierung und Datasets für Teams, die produktive GenAI-Features bauen. Langfuse adressiert damit eine Lücke, die klassische APM-Tools (Datadog, New Relic) für LLM-Workloads offen lassen: Token-Kosten, Prompt-Versionen, Latenzen über mehrstufige Agenten-Chains und Output-Qualität.
Überblick
- Typ: LLM Observability & Engineering Platform (Open Source + SaaS)
- Gründung: 2022
- Hauptsitz: Berlin, Deutschland
- Gründer: Marc Klingen, Maximilian Deichmann, Clemens Rawert
- Website: langfuse.com
- Lizenz: MIT (Core), kommerzielle Enterprise-Features
- GitHub: github.com/langfuse/langfuse (mehrere Tausend Stars, einer der populärsten LLMOps-Repos)
- Y Combinator: Batch W23
Produkte und Services
Langfuse bündelt mehrere Bausteine, die den LLM-Entwicklungszyklus abdecken:
| Modul | Funktion |
|---|---|
| Tracing | Hierarchische Traces über LLM-Calls, Tools, Retrieval-Schritte und Agenten-Steps |
| Prompt Management | Versionierung, A/B-Test, Deployment von Prompts ohne Code-Deploy |
| Evaluations | LLM-as-a-judge, Custom Evals, Human Annotation, automatisierte Scoring-Pipelines |
| Datasets | Test-Sets aus Production-Traces bauen, Regression-Tests für Prompt-Änderungen |
| Playground | Interaktives Prompt-Testing über Modelle und Provider hinweg |
| Metrics & Dashboards | Token-Kosten, Latenz, Quality-Scores, User-Feedback aggregiert |
Die Plattform integriert nativ mit den gängigen LLM-Frameworks: OpenAI SDK, Anthropic SDK, LangChain, LlamaIndex, Vercel AI SDK, LiteLLM, Haystack, DSPy. Self-Hosting per Docker oder Kubernetes ist möglich; daneben gibt es Langfuse Cloud (EU und US Regionen).
Geschichte und Entwicklung
Marc Klingen, Maximilian Deichmann und Clemens Rawert gründeten Langfuse 2022 in Berlin. Klingen arbeitete zuvor bei McKinsey, Deichmann bei Tier Mobility, Rawert bei mehreren Startups. Der erste Pivot kam schnell: ursprünglich auf User-Analytics für LLM-Apps ausgerichtet, weitete das Team den Scope auf das gesamte LLM-Engineering aus, als sich abzeichnete, dass Tracing und Prompt-Versionierung der dringendere Pain Point waren.
Anfang 2023 nahm Langfuse am Y-Combinator-Batch W23 teil und ging in den USA durch das Demo-Day-Programm. Open-Source-Launch und initiale Community-Traktion folgten 2023. Die Adoption-Welle 2024 wurde durch die ChatGPT-getriebene LLMOps-Nachfrage befeuert; Langfuse positionierte sich als europäische, datenschutzfreundliche Alternative zu LangSmith (LangChain) und Helicone.
2024 holte Langfuse eine Series-A-Finanzierung mit Lightspeed Venture Partners als Lead. 2025 folgte die Series B mit Threshold Ventures. Die Cloud-EU-Region und Enterprise-SSO-Features kamen im selben Zeitraum, um europäische Enterprise-Kunden zu adressieren.
Team und Führung
| Position | Name |
|---|---|
| Co-Founder, CEO | Marc Klingen |
| Co-Founder, CTO | Maximilian Deichmann |
| Co-Founder | Clemens Rawert |
Das Team sitzt überwiegend in Berlin, mit einem verteilten Engineering-Team. Größe geschätzt im niedrigen zweistelligen Bereich (Stand 2026).
Investoren und Eigentümer
- Y Combinator (W23 Batch, 2023)
- Lightspeed Venture Partners (Series A Lead, 2024)
- Threshold Ventures (Series B Lead, 2025)
- Weitere Angel-Investoren aus dem Berliner und Bay-Area-Ökosystem
Es handelt sich um klassische VC-Finanzierung, nicht um Private Equity. Eine Exit-Prognose über das Vintage-Year-Modell ist daher nicht sinnvoll — der typische Pfad wäre Series C/D, Strategic Acquisition durch einen Cloud-Hyperscaler oder LLM-Infrastruktur-Player, oder mittelfristig IPO.
Konkurrenz
Der LLMOps-Markt ist 2024–2026 stark fragmentiert. Hauptwettbewerber:
| Anbieter | Sitz | Positionierung |
|---|---|---|
| LangSmith | San Francisco | Closed-Source-Tool von LangChain, eng an LangChain-Framework gebunden |
| Helicone | San Francisco | Proxy-basiertes LLM-Logging, Open Source |
| Arize Phoenix | Bay Area | OSS-Observability, eng an Arize AI gekoppelt |
| LiteLLM | USA | Eher Gateway als Observability, oft komplementär eingesetzt |
| Weights & Biases (Weave) | San Francisco | LLM-Tracing als Erweiterung der MLOps-Suite |
| Braintrust | San Francisco | Eval-fokussiert, kommerziell |
| TruEra | Bay Area | Eval und Monitoring, Enterprise |
Langfuse differenziert sich über drei Punkte: Open-Source-Lizenz (MIT, nicht copyleft), framework-agnostische Integration (nicht an LangChain gebunden) und europäisches Hosting mit DSGVO-Konformität. Für DACH-Enterprise-Käufer, die LLM-Telemetrie nicht in die US-Cloud schicken wollen, ist das ein konkreter Vorteil.
Die LLM-Observability-Kategorie selbst ist bei Gartner und Forrester 2026 noch nicht als eigener Magic Quadrant abgebildet — sie wird teils unter “AI Engineering” oder “MLOps Platforms” subsumiert. Praktiker sprechen meist von “LLMOps” oder “LLM Observability”.
Einordnung für DACH-Praktiker
Für Software-Teams, die mit OpenAI, Anthropic, Mistral oder selbst gehosteten Modellen produktive Features bauen, ist Langfuse aktuell die naheliegende europäische Wahl. Self-Hosting per Docker macht den Einstieg trivial, die Cloud-EU-Variante nimmt Datenschutz-Diskussionen mit dem CISO vorweg. Wer ohnehin auf LangChain setzt, wird die Reibung zu LangSmith abwägen; framework-agnostische Teams haben mit Langfuse weniger Lock-in.
Quellen
- langfuse.com — Produktseite und Dokumentation
- github.com/langfuse/langfuse — Open-Source-Repository
- Y Combinator W23 Batch
- TechCrunch und EU-Startups-Berichterstattung zu Series A (Lightspeed, 2024)
- LinkedIn-Profile der Gründer Marc Klingen, Maximilian Deichmann, Clemens Rawert