Rechner · läuft komplett im Browser

Lohnt sich die eigene GPU?

Hardware-Kosten, reale Auslastung und Durchsatz gegen den Token-Preis der Cloud. Der Rechner sagt, ab welchem Monatsvolumen Self-Hosting günstiger wird und wie weit du davon entfernt bist. Die Voreinstellungen entsprechen dem Rechenbeispiel aus dem Insight Lokale KI im Mittelstand.

Deine Hardware Voreinstellung Monatsmiete oder monatliche Abschreibung (€) Einmalige Kosten: Setup oder Anschaffung (€) Nutzungsdauer, auf die die Einmalkosten verteilt werden (Monate)

Leistungsaufnahme (W)

Strompreis (€/kWh)

Beim Hoster meist in der Miete enthalten, dann beides 0.

Durchsatz des lokalen Modells (Tokens/Sekunde, aggregiert)

Default: Llama 3.3 70B INT4 auf 1× RTX PRO 6000, vLLM, 400 parallele Requests (CloudRift). Ein einzelner Chat-Stream liegt bei ~25 Tokens/s.

Erwartete reale Auslastung (% der 8.760 Jahresstunden): 12 %

Bürobetrieb 8–18 Uhr an 220 Tagen ergibt maximal 25 %. Ohne Nacht-Batches sind 10–15 % realistisch.

Cloud-Vergleich Vergleichsmodell

Fair ist das Cloud-Modell, das dem lokalen in Qualität entspricht. Für ein 70B-Modell ist das Haiku.

Input ($/Mio. Tokens)

Output ($/Mio. Tokens)

Input-Anteil am Token-Mix: 75 % Input / 25 % Output Wechselkurs (€ je 1 $)

Nicht in der Rechnung: Personal für Betrieb und Modellwechsel, Batch-API-Rabatt (50 %) und Prompt Caching auf der Cloud-Seite. Beides macht die Cloud günstiger, als der Rechner ausweist.

Ergebnis

Hardware effektiv: pro Monat
Produzierbar: Tokens pro Monat bei deiner Auslastung
Dieselbe Menge in der Cloud
Break-even: Tokens pro Monat, ab denen Self-Hosting günstiger wird

Deine Produktion Break-even

Dieselbe Hardware bei anderer Auslastung
Auslastung	Tokens/Monat	Cloud-Kosten	Faktor

Die Formeln

Effektive Monatskosten = Miete + Einmalkosten ÷ Nutzungsdauer + Watt ÷ 1.000 × 720 h × Strompreis
Produzierbare Tokens = Durchsatz × 3.600 × 24 × 30 × Auslastung
Cloud-Preis blended = Input-Anteil × Input-Preis + Output-Anteil × Output-Preis, in Euro umgerechnet
Break-even = Effektive Monatskosten ÷ Cloud-Preis je Token
Faktor = Break-even ÷ produzierbare Tokens. Über 1 heißt: Self-Hosting ist teurer.

Keine Datenübertragung, keine Speicherung. Die Herleitung der Defaults und die Quellen stehen im Insight. Welches Cloud-Modell zu welchem Use Case passt, im LLM-Auswahl-Framework.