Was eine KI-Anfrage wirklich an Strom kostet
Eine einzelne Zahl gibt es nicht, aber es gibt fünf Größen, die den Verbrauch bestimmen, und drei davon kannst du im eigenen Haus tatsächlich beeinflussen.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Mit falschen Zahlen wird an der falschen Stelle gespart
Die Diskussion beginnt meist mit einer Zahl aus einem Artikel. Jemand rechnet sie auf die eigene Nutzung hoch, das Ergebnis erschreckt, und daraufhin wird entweder der Einsatz gebremst oder eine Maßnahme beschlossen, die am kleinsten Posten ansetzt. Beides beruht auf einer Zahl, deren Annahmen niemand geprüft hat.
Gleichzeitig läuft der tatsächliche Verbrauch an einer anderen Stelle davon. Automatisierungen erzeugen Aufrufe im Hintergrund, ein Modellwechsel bringt Zwischenschritte mit, und die verarbeitete Textmenge je Vorgang wächst, ohne dass sich die Zahl der Nutzenden ändert. Wer nur Anfragen zählt, sieht davon nichts.
Für den Nachhaltigkeitsbericht wird es dann unangenehm, weil zwei Abteilungen mit verschiedenen Methoden zu verschiedenen Zahlen kommen und keine davon nachvollziehbar dokumentiert ist. Der Streit über die Zahl kostet mehr Zeit als die Maßnahme, um die es eigentlich ging.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der Aufbau im Detail
Der Aufbau
Energie pro Anfrage = (aktive Modellgröße x verarbeitete Tokens) / Auslastung x Energiebedarf der Beschleuniger x Zusatzaufwand des Rechenzentrums - 01 Rechenlast
aktive ModellgrößeNicht die genannte Gesamtzahl der Parameter zählt, sondern der Teil, der für eine einzelne Anfrage tatsächlich gerechnet wird. Bei Architekturen, die nur einen Ausschnitt des Modells aktivieren, liegt dieser Teil deutlich unter der Gesamtgröße.
- 02 Umfang
verarbeitete TokensEingabe und Ausgabe zusammen, einschließlich des Kontexts, den ein Werkzeug unsichtbar mitschickt. Modelle, die vor der Antwort Zwischenschritte formulieren, erzeugen zusätzliche Tokens, die in der Oberfläche gar nicht erscheinen.
- 03 Bündelung
AuslastungViele gleichzeitige Anfragen teilen sich einen Durchlauf durch das Modell. Deshalb ist dieselbe Anfrage auf einem gut ausgelasteten System sparsamer als auf einem Server, der die meiste Zeit auf Arbeit wartet.
- 04 Hardware
Energiebedarf der BeschleunigerZwischen zwei Generationen von Rechenbeschleunigern liegt ein erheblicher Unterschied im Verbrauch für dieselbe Rechenarbeit. Wer einen Dienst nutzt, hat darauf keinen Einfluss, wer selbst betreibt, entscheidet damit für Jahre.
- 05 Gebäude
Zusatzaufwand des RechenzentrumsKühlung, Stromverteilung und Verluste kommen auf den Verbrauch der Rechner obendrauf. In großen, neu gebauten Anlagen fällt dieser Aufschlag gering aus, in einem älteren Serverraum kann er die Größenordnung des Rechenbedarfs selbst erreichen.
Wenn es nicht funktioniert
Das siehst du
Eine Zahl aus einem Artikel wird auf die eigene Nutzung hochgerechnet und ergibt eine erschreckende Summe.
Warum
Die Zahl gilt für ein bestimmtes Modell, eine bestimmte Antwortlänge und ein bestimmtes Rechenzentrum, und keine dieser Annahmen passt auf euch.
Was hilft
Mit Größenordnungen arbeiten statt mit Nachkommastellen und die eigene Menge aus der Abrechnung ziehen, nicht aus einer fremden Schätzung.
Das siehst du
Der Verbrauch steigt spürbar, obwohl die Zahl der Nutzenden gleich geblieben ist.
Warum
Ein Wechsel auf ein Modell mit Zwischenschritten oder eine neue Automatisierung erzeugt deutlich mehr Tokens je Vorgang.
Was hilft
Tokens als Steuergröße mitschreiben statt Anfragen und bei jedem Modellwechsel den Wert davor und danach vergleichen.
Das siehst du
Das Training wird jedem einzelnen Aufruf zugeschlagen, und die Rechnung wird absurd.
Warum
Trainingsenergie fällt einmal an und verteilt sich über die gesamte Nutzung des Modells, sie gehört nicht in eine Zahl pro Anfrage.
Was hilft
Beide Posten getrennt ausweisen und in der Diskussion klar sagen, welcher davon durch eigenes Verhalten überhaupt beeinflussbar ist.
Das siehst du
Eine Sparmaßnahme ist umgesetzt, in der Abrechnung ändert sich nichts.
Warum
Die Maßnahme setzte am kleineren Posten an, während der große Posten unverändert blieb, meist der Kontext, der bei jedem Aufruf mitgeschickt wird.
Was hilft
Vorher aufschlüsseln, welcher Anteil der Tokens auf Eingabe, mitgeschickten Kontext und Ausgabe entfällt, und erst dann ansetzen.
Das siehst du
Zwei Abteilungen nennen für denselben Dienst völlig verschiedene Verbrauchszahlen.
Warum
Die eine rechnet mit Emissionsangaben des Anbieters, die andere mit einer Schätzung pro Anfrage aus einer Veröffentlichung.
Was hilft
Eine Quelle und eine Methode festlegen, beides dokumentieren und bei einem Wechsel die alte Zahl neu berechnen, damit Vergleiche gültig bleiben.
Fünf Größen, die den Verbrauch einer Anfrage bestimmen
- 01 Wie groß ist der Teil des Modells, der für die Antwort gerechnet wird?
- 02 Wie viele Tokens gehen hinein, und wie viele kommen heraus?
- 03 Wie viele Anfragen teilen sich denselben Durchlauf durch das Modell?
- 04 Welche Generation von Rechenbeschleunigern steht in der Anlage?
- 05 Wie viel Strom braucht das Gebäude zusätzlich für Kühlung und Verteilung?
Was du danach beurteilen kannst
Statt einer Zahl bekommst du ein Verständnis davon, woraus sie entsteht. Damit lassen sich fremde Angaben einordnen und eigene Maßnahmen an der Stelle ansetzen, an der sie etwas bewegen.
Fremde Angaben einordnen
Du erkennst an einer Verbrauchszahl sofort, welche Annahmen fehlen, und kannst sagen, ob sie auf euren Fall überhaupt übertragbar ist.
Training und Betrieb trennen
Du weißt, welcher der beiden Posten durch eigenes Verhalten beeinflussbar ist, und führst die interne Diskussion nicht über den falschen Posten.
Tokens statt Anfragen steuern
Du nimmst die verarbeitete Textmenge als Kennzahl, weil sie den Anstieg durch Automatisierung und Denkschritte überhaupt erst sichtbar macht.
Modelle nach Aufgabe wählen
Du setzt kleine Modelle für einfache Aufgaben ein und behältst die großen für die Fälle, in denen sie den Unterschied machen.
Region und Zeit nutzen
Du wählst, wo verarbeitet wird, und verschiebst zeitlich unkritische Massenläufe aus der Spitzenlast heraus.
Anbieter richtig fragen
Du fragst nach dem Zusatzaufwand des Gebäudes und nach der Herkunft des Stroms, statt dich auf eine Zahl pro Anfrage zu stützen, deren Annahmen du nicht kennst.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Warum die Zahlen so weit auseinanderliegen
Jede Schätzung pro Anfrage steckt voller Annahmen: welches Modell antwortet, wie lang die Eingabe ist, wie lang die Antwort wird, wie gut die Beschleuniger ausgelastet sind, welche Hardwaregeneration läuft und wie viel Strom das Gebäude zusätzlich für Kühlung und Verteilung braucht. Ändert man allein die Antwortlänge, verschiebt sich das Ergebnis um ein Vielfaches. Zahlen ohne diese Angaben sind nicht falsch, sie sind unvollständig.
Inzwischen nennen die Anbieter selbst Größenordnungen. Google gab im August 2025 für eine mittlere Textanfrage an Gemini rund 0,24 Wattstunden an, OpenAI im Juni 2025 für eine durchschnittliche Anfrage an ChatGPT rund 0,34 Wattstunden. Gegeneinander rechnen lassen sich die beiden Zahlen trotzdem nicht, weil die eine ein Median und die andere ein Mittelwert ist und beide unterschiedlich weit gefasst sind. Alles Weitere stammt aus Hochrechnungen von außen, die aus Modellgröße und geschätzter Nutzung zurückrechnen. Zwei solche Rechnungen können beide sauber gemacht sein und trotzdem weit auseinanderliegen, weil sie an einer einzigen Annahme abzweigen.
Training und Betrieb sind zwei verschiedene Posten
Das Training eines großen Modells ist ein einmaliger, sehr großer Block. Der laufende Betrieb ist ein kleiner Block je Anfrage, der sich über Millionen von Anfragen aufsummiert. Über die Lebensdauer eines viel genutzten Modells überwiegt der Betrieb, und für ein Unternehmen, das ein fertiges Modell einsetzt, ist ohnehin nur der Betrieb die beeinflussbare Größe.
Deshalb führt die Frage nach dem Trainingsverbrauch in der internen Diskussion oft in die Irre. Sie ist für die Bewertung eines Anbieters interessant und für die eigene Steuerung fast bedeutungslos, weil euer Anteil daran mit eurer Nutzung weder steigt noch fällt.
Was im eigenen Haus tatsächlich wirkt
Die größte Stellschraube ist die Menge an Tokens, die überhaupt verarbeitet wird. Sie steigt nicht nur mit der Zahl der Nutzenden, sondern vor allem mit Automatisierungen, die Aufrufe im Hintergrund erzeugen, und mit Modellen, die vor der eigentlichen Antwort Zwischenschritte formulieren. Wer nur Anfragen zählt, sieht diesen Anstieg gar nicht.
Die zweite Stellschraube ist die Modellwahl je Aufgabe. Ein kleines Modell für Klassifizierung, Formatierung und einfache Auszüge und ein großes nur dort, wo es wirklich gebraucht wird, senkt Verbrauch und Kosten gleichzeitig. Das ist der angenehme Teil dieses Themas: Sparsamkeit und Rechnung zeigen hier in dieselbe Richtung, anders als bei vielen anderen Umweltfragen.
Die dritte Stellschraube ist der Ort. Bei Cloud-Diensten lässt sich häufig die Region wählen, und die Emissionen je Kilowattstunde unterscheiden sich zwischen Regionen erheblich. Für zeitlich unkritische Massenverarbeitung kommt hinzu, dass sie nicht zur Spitzenlast laufen muss.
Wasser, Wärme und die Frage, was am Standort passiert
Neben Strom braucht ein Rechenzentrum Kühlung, und je nach Bauart läuft die über Verdunstung, also über Wasser. In Regionen mit knappem Wasser ist das der relevantere Punkt als der Strom selbst. Umgekehrt entsteht Abwärme, die sich nutzen lässt, wenn ein Abnehmer in der Nähe ist. Beides steht in keiner Zahl pro Anfrage und gehört trotzdem in eine ernsthafte Bewertung.
Wenn du einen Anbieter danach fragst, sind zwei Angaben aussagekräftig: wie viel Energie über den Verbrauch der Rechner hinaus anfällt und woher der Strom des Standorts stammt. Beides beantwortet ein Betreiber, der es misst, ohne Zögern. Ausweichende Antworten sind selbst eine Auskunft.
Dazu passende Kurse
Wie sich Verbrauch, Kosten und Modellwahl gemeinsam steuern lassen, behandeln die Weiterbildungen für die strategische Seite von KI .
Wo die Rechenarbeit tatsächlich stattfindet und was das an Aufwand bedeutet, zeigen die Kurse zu Betrieb und Infrastruktur .
Wie sicher bist du beim Thema wirklich?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
Häufige Fragen
Verbraucht eine KI-Anfrage wirklich so viel wie mehrere Suchanfragen?
Lohnt sich ein eigenes Modell im Haus energetisch?
Wie kommen wir für den Nachhaltigkeitsbericht an eine Zahl?
Bringt es etwas, kürzere Prompts zu schreiben?
Deine Ansprechpartner
Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.
Norbert Jansen
Beratung & Inhouse
Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.
Verbrauch und Kosten zeigen in dieselbe Richtung
Wie sich Modellwahl, Kontextgröße und Betriebsort gemeinsam steuern lassen, arbeitest du in den Kursen zu nachhaltiger KI und Kostenkontrolle an eigenen Zahlen durch.