The Playbook
Produkt

Langfuse

Langfuse ist eine Open-Source-Plattform für LLM-Engineering, die das Beobachten, Debuggen und Auswerten von Anwendungen mit Large Language Models...

Frag die KI über Langfuse

Langfuse

Langfuse ist eine Open-Source-Plattform für LLM-Engineering, die das Beobachten, Debuggen und Auswerten von Anwendungen mit Large Language Models ermöglicht. Das Berliner Unternehmen bietet Tracing, Prompt-Management, Evaluierung und Datasets für Teams, die produktive GenAI-Features bauen. Langfuse adressiert damit eine Lücke, die klassische APM-Tools (Datadog, New Relic) für LLM-Workloads offen lassen: Token-Kosten, Prompt-Versionen, Latenzen über mehrstufige Agenten-Chains und Output-Qualität.

Überblick

  • Typ: LLM Observability & Engineering Platform (Open Source + SaaS)
  • Gründung: 2022
  • Hauptsitz: Berlin, Deutschland
  • Gründer: Marc Klingen, Maximilian Deichmann, Clemens Rawert
  • Website: langfuse.com
  • Lizenz: MIT (Core), kommerzielle Enterprise-Features
  • GitHub: github.com/langfuse/langfuse (mehrere Tausend Stars, einer der populärsten LLMOps-Repos)
  • Y Combinator: Batch W23

Produkte und Services

Langfuse bündelt mehrere Bausteine, die den LLM-Entwicklungszyklus abdecken:

Modul Funktion
Tracing Hierarchische Traces über LLM-Calls, Tools, Retrieval-Schritte und Agenten-Steps
Prompt Management Versionierung, A/B-Test, Deployment von Prompts ohne Code-Deploy
Evaluations LLM-as-a-judge, Custom Evals, Human Annotation, automatisierte Scoring-Pipelines
Datasets Test-Sets aus Production-Traces bauen, Regression-Tests für Prompt-Änderungen
Playground Interaktives Prompt-Testing über Modelle und Provider hinweg
Metrics & Dashboards Token-Kosten, Latenz, Quality-Scores, User-Feedback aggregiert

Die Plattform integriert nativ mit den gängigen LLM-Frameworks: OpenAI SDK, Anthropic SDK, LangChain, LlamaIndex, Vercel AI SDK, LiteLLM, Haystack, DSPy. Self-Hosting per Docker oder Kubernetes ist möglich; daneben gibt es Langfuse Cloud (EU und US Regionen).

Geschichte und Entwicklung

Marc Klingen, Maximilian Deichmann und Clemens Rawert gründeten Langfuse 2022 in Berlin. Klingen arbeitete zuvor bei McKinsey, Deichmann bei Tier Mobility, Rawert bei mehreren Startups. Der erste Pivot kam schnell: ursprünglich auf User-Analytics für LLM-Apps ausgerichtet, weitete das Team den Scope auf das gesamte LLM-Engineering aus, als sich abzeichnete, dass Tracing und Prompt-Versionierung der dringendere Pain Point waren.

Anfang 2023 nahm Langfuse am Y-Combinator-Batch W23 teil und ging in den USA durch das Demo-Day-Programm. Open-Source-Launch und initiale Community-Traktion folgten 2023. Die Adoption-Welle 2024 wurde durch die ChatGPT-getriebene LLMOps-Nachfrage befeuert; Langfuse positionierte sich als europäische, datenschutzfreundliche Alternative zu LangSmith (LangChain) und Helicone.

2024 holte Langfuse eine Series-A-Finanzierung mit Lightspeed Venture Partners als Lead. 2025 folgte die Series B mit Threshold Ventures. Die Cloud-EU-Region und Enterprise-SSO-Features kamen im selben Zeitraum, um europäische Enterprise-Kunden zu adressieren.

Team und Führung

Position Name
Co-Founder, CEO Marc Klingen
Co-Founder, CTO Maximilian Deichmann
Co-Founder Clemens Rawert

Das Team sitzt überwiegend in Berlin, mit einem verteilten Engineering-Team. Größe geschätzt im niedrigen zweistelligen Bereich (Stand 2026).

Investoren und Eigentümer

  • Y Combinator (W23 Batch, 2023)
  • Lightspeed Venture Partners (Series A Lead, 2024)
  • Threshold Ventures (Series B Lead, 2025)
  • Weitere Angel-Investoren aus dem Berliner und Bay-Area-Ökosystem

Es handelt sich um klassische VC-Finanzierung, nicht um Private Equity. Eine Exit-Prognose über das Vintage-Year-Modell ist daher nicht sinnvoll — der typische Pfad wäre Series C/D, Strategic Acquisition durch einen Cloud-Hyperscaler oder LLM-Infrastruktur-Player, oder mittelfristig IPO.

Konkurrenz

Der LLMOps-Markt ist 2024–2026 stark fragmentiert. Hauptwettbewerber:

Anbieter Sitz Positionierung
LangSmith San Francisco Closed-Source-Tool von LangChain, eng an LangChain-Framework gebunden
Helicone San Francisco Proxy-basiertes LLM-Logging, Open Source
Arize Phoenix Bay Area OSS-Observability, eng an Arize AI gekoppelt
LiteLLM USA Eher Gateway als Observability, oft komplementär eingesetzt
Weights & Biases (Weave) San Francisco LLM-Tracing als Erweiterung der MLOps-Suite
Braintrust San Francisco Eval-fokussiert, kommerziell
TruEra Bay Area Eval und Monitoring, Enterprise

Langfuse differenziert sich über drei Punkte: Open-Source-Lizenz (MIT, nicht copyleft), framework-agnostische Integration (nicht an LangChain gebunden) und europäisches Hosting mit DSGVO-Konformität. Für DACH-Enterprise-Käufer, die LLM-Telemetrie nicht in die US-Cloud schicken wollen, ist das ein konkreter Vorteil.

Die LLM-Observability-Kategorie selbst ist bei Gartner und Forrester 2026 noch nicht als eigener Magic Quadrant abgebildet — sie wird teils unter “AI Engineering” oder “MLOps Platforms” subsumiert. Praktiker sprechen meist von “LLMOps” oder “LLM Observability”.

Einordnung für DACH-Praktiker

Für Software-Teams, die mit OpenAI, Anthropic, Mistral oder selbst gehosteten Modellen produktive Features bauen, ist Langfuse aktuell die naheliegende europäische Wahl. Self-Hosting per Docker macht den Einstieg trivial, die Cloud-EU-Variante nimmt Datenschutz-Diskussionen mit dem CISO vorweg. Wer ohnehin auf LangChain setzt, wird die Reibung zu LangSmith abwägen; framework-agnostische Teams haben mit Langfuse weniger Lock-in.

Quellen