KI-Abrechnung nach Kilowattstunden: Was Tokens verbergen

Wer heute eine KI über eine API nutzt, zahlt pro Token – getrennt für Eingabe und Ausgabe, meist pro Million Einheiten abgerechnet. Wie viel Rechenarbeit und Energie eine einzelne Anfrage tatsächlich auslöst, spielt dabei praktisch keine Rolle. Der US-Anbieter Neuralwatt hat das umgedreht: Er misst den Stromverbrauch jeder Anfrage direkt an der GPU und stellt Kilowattstunden in Rechnung. Ein 30-tägiger Praxistest, den Golem.de veröffentlicht hat, zeigt den Unterschied: 139.879 Anfragen mit 1,67 Milliarden Token kosteten nach Energie-Abrechnung 100,75 US-Dollar – nach klassischer Token-Preisliste desselben Anbieters wären es 427,62 US-Dollar gewesen. Das ist Faktor 4,2 im Schnitt. Interessanter als dieser Mittelwert ist, wie stark er streut: Je nach Modell liegt der Faktor zwischen 0,9 und 6,5.

Was Token-Preise verschweigen

Der Grund für diese Streuung liegt in der Architektur der Modelle. Viele aktuelle Sprachmodelle arbeiten nach dem Mixture-of-Experts-Prinzip: Pro Anfrage wird nur ein Teil der Parameter aktiviert, nicht das gesamte Modell. Ein Modell mit 397 Milliarden Parametern nutzt für eine typische Anfrage oft nur rund 17 Milliarden davon. Die Rechenlast – und damit der Energieverbrauch – ist entsprechend kleiner, als die Modellgröße vermuten lässt. Token-Preise bilden das nicht ab. Sie orientieren sich an der Zahl der Ein- und Ausgabe-Einheiten, nicht an der Hardware, die dafür tatsächlich arbeitet. Neuralwatt misst stattdessen direkt: Über die NVIDIA-Management-Schnittstelle liest das System den Energiezähler der GPU zu Beginn und Ende jeder Anfrage aus, die Differenz ergibt den Verbrauch in Kilowattstunden. Laufen mehrere Anfragen gleichzeitig auf demselben Server, wird die gemessene Energie über den Anteil an der Token-Menge verteilt – gedeckelt auf 25 Prozent bei Einzel-GPU- und 7 bis 10 Prozent bei Multi-GPU-Systemen, damit eine einzelne Anfrage nicht die Leerlaufenergie des gesamten Servers zugeschrieben bekommt.

Info
Bei Mixture-of-Experts-Modellen wie den im Test verwendeten Qwen-Varianten aktiviert eine Anfrage oft nur einen Bruchteil der Gesamtparameter. Genau deshalb fällt der Preisunterschied zur Token-Abrechnung bei diesen Modellen am größten aus – bei klassischen Dense-Modellen dagegen kaum.

Der eigentliche Hebel: Kostentransparenz verändert Verhalten

Entscheidend an diesem Modell ist weniger der Sparfaktor als die Verschiebung des Anreizes. Wenn der Preis direkt an gemessenen Energieverbrauch gekoppelt ist, wird jede unnötige Anfrage, jeder aufgeblähte Prompt und jeder wiederholte Kontext sofort sichtbar – nicht nur ökologisch, sondern auf der Rechnung. Neuralwatt honoriert das zusätzlich: Wiederverwendete Prompt-Anfänge werden über Prefix-Caching zu einem Viertel des regulären Satzes abgerechnet, weil sie nicht neu berechnet werden müssen. In meiner Beratung erlebe ich regelmäßig, dass Unternehmen ihre KI-Kosten ausschließlich über die Rechnung des Anbieters kennen, nicht über den tatsächlichen Ressourcenverbrauch dahinter. Eine Abrechnung, die Energie statt Tokens zählt, macht genau diesen blinden Fleck sichtbar – und schafft damit einen wirtschaftlichen Grund für das, was aus Nachhaltigkeitssicht ohnehin sinnvoll wäre: knappe, effiziente Prompts.

Tipp
Wenn Du schon an Prompt-Länge, Kontextgröße und Wiederverwendung arbeitest, senkst Du damit nicht nur Kosten in einem energiebasierten Modell, sondern auch den tatsächlichen Stromverbrauch Deiner eigenen KI-Nutzung – unabhängig davon, wie Dein Anbieter abrechnet.

Was das für ESG-Reporting bedeutet

Für Unternehmen mit Berichtspflichten ist die zweite Neuerung mindestens so relevant wie der Preis: Seit Juni 2026 liefert Neuralwatt zu jeder Anfrage in Echtzeit auch die CO₂-Emission mit, berechnet auf Basis aktueller Netzdaten des Anbieters Electricity Maps. Damit lässt sich der CO₂-Fußabdruck der eigenen KI-Nutzung erstmals auf Anfrage-Ebene nachvollziehen, statt ihn über grobe Branchen-Durchschnittswerte zu schätzen. Für CSRD- und ESG-Reporting ist das ein Unterschied ums Ganze: Wer Scope-3-Emissionen aus eingekauften KI-Diensten ausweisen muss, bekommt damit belastbare Werte statt Annahmen. Auf den ersten Blick wirkt das wie ein reines Kostenwerkzeug. Tatsächlich verschiebt es die Nachweislast: Anbieter, die ihre Energieeffizienz nicht offenlegen können, stehen im Vergleich zunehmend schlechter da.

Wer Energieverbrauch nicht misst, kann ihn weder einpreisen noch berichten – am Ende zahlt und rechnet man dann für ein Signal, das mit der Realität wenig zu tun hat.


Quellen: KI-Abrechnung nach Energieverbrauch: Um den Faktor vier billiger – Golem.de · Energy Methodology – Neuralwatt Cloud · Pricing – Neuralwatt Cloud