Lokale KI im Mittelstand: Die Kostenrechnung liegt Faktor 20 daneben
Ein Hetzner-GPU-Server mit RTX PRO 6000 kostet 1.224 € im Monat und produziert bei realer Büro-Auslastung rund 400 Mio. Tokens. Dieselbe Menge kostet bei Claude Haiku 5.5 72 €. Um die Fixkosten gegen das günstigste Frontier-Modell reinzuholen, müsste die Karte 6,8 Mrd. Tokens im Monat liefern, das Zweieinhalbfache dessen, was sie bei 24/7-Volllast physisch schafft. Lokale KI rechnet sich beim Mittelständler fast nie über die Kosten. Sie rechnet sich über Datenschutz. Wer sie anders verkauft, führt den Kunden in die Irre.