Energie und Betrieb

Was eine KI-Anfrage wirklich an Strom kostet

Eine einzelne Zahl gibt es nicht, aber es gibt fünf Größen, die den Verbrauch bestimmen, und drei davon kannst du im eigenen Haus tatsächlich beeinflussen.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Seit 1997 am Markt Kleine Gruppen Präsenz und Live-Online Zertifizierte Trainer
Worum es geht

Mit falschen Zahlen wird an der falschen Stelle gespart

Die Diskussion beginnt meist mit einer Zahl aus einem Artikel. Jemand rechnet sie auf die eigene Nutzung hoch, das Ergebnis erschreckt, und daraufhin wird entweder der Einsatz gebremst oder eine Maßnahme beschlossen, die am kleinsten Posten ansetzt. Beides beruht auf einer Zahl, deren Annahmen niemand geprüft hat.

Gleichzeitig läuft der tatsächliche Verbrauch an einer anderen Stelle davon. Automatisierungen erzeugen Aufrufe im Hintergrund, ein Modellwechsel bringt Zwischenschritte mit, und die verarbeitete Textmenge je Vorgang wächst, ohne dass sich die Zahl der Nutzenden ändert. Wer nur Anfragen zählt, sieht davon nichts.

Für den Nachhaltigkeitsbericht wird es dann unangenehm, weil zwei Abteilungen mit verschiedenen Methoden zu verschiedenen Zahlen kommen und keine davon nachvollziehbar dokumentiert ist. Der Streit über die Zahl kostet mehr Zeit als die Maßnahme, um die es eigentlich ging.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der Aufbau im Detail

Der Aufbau im Detail

Der Aufbau

Energie pro Anfrage = (aktive Modellgröße x verarbeitete Tokens) / Auslastung x Energiebedarf der Beschleuniger x Zusatzaufwand des Rechenzentrums
  1. 01 Rechenlast aktive Modellgröße

    Nicht die genannte Gesamtzahl der Parameter zählt, sondern der Teil, der für eine einzelne Anfrage tatsächlich gerechnet wird. Bei Architekturen, die nur einen Ausschnitt des Modells aktivieren, liegt dieser Teil deutlich unter der Gesamtgröße.

  2. 02 Umfang verarbeitete Tokens

    Eingabe und Ausgabe zusammen, einschließlich des Kontexts, den ein Werkzeug unsichtbar mitschickt. Modelle, die vor der Antwort Zwischenschritte formulieren, erzeugen zusätzliche Tokens, die in der Oberfläche gar nicht erscheinen.

  3. 03 Bündelung Auslastung

    Viele gleichzeitige Anfragen teilen sich einen Durchlauf durch das Modell. Deshalb ist dieselbe Anfrage auf einem gut ausgelasteten System sparsamer als auf einem Server, der die meiste Zeit auf Arbeit wartet.

  4. 04 Hardware Energiebedarf der Beschleuniger

    Zwischen zwei Generationen von Rechenbeschleunigern liegt ein erheblicher Unterschied im Verbrauch für dieselbe Rechenarbeit. Wer einen Dienst nutzt, hat darauf keinen Einfluss, wer selbst betreibt, entscheidet damit für Jahre.

  5. 05 Gebäude Zusatzaufwand des Rechenzentrums

    Kühlung, Stromverteilung und Verluste kommen auf den Verbrauch der Rechner obendrauf. In großen, neu gebauten Anlagen fällt dieser Aufschlag gering aus, in einem älteren Serverraum kann er die Größenordnung des Rechenbedarfs selbst erreichen.

Wenn es nicht funktioniert

Das siehst du

Eine Zahl aus einem Artikel wird auf die eigene Nutzung hochgerechnet und ergibt eine erschreckende Summe.

Warum

Die Zahl gilt für ein bestimmtes Modell, eine bestimmte Antwortlänge und ein bestimmtes Rechenzentrum, und keine dieser Annahmen passt auf euch.

Was hilft

Mit Größenordnungen arbeiten statt mit Nachkommastellen und die eigene Menge aus der Abrechnung ziehen, nicht aus einer fremden Schätzung.

Das siehst du

Der Verbrauch steigt spürbar, obwohl die Zahl der Nutzenden gleich geblieben ist.

Warum

Ein Wechsel auf ein Modell mit Zwischenschritten oder eine neue Automatisierung erzeugt deutlich mehr Tokens je Vorgang.

Was hilft

Tokens als Steuergröße mitschreiben statt Anfragen und bei jedem Modellwechsel den Wert davor und danach vergleichen.

Das siehst du

Das Training wird jedem einzelnen Aufruf zugeschlagen, und die Rechnung wird absurd.

Warum

Trainingsenergie fällt einmal an und verteilt sich über die gesamte Nutzung des Modells, sie gehört nicht in eine Zahl pro Anfrage.

Was hilft

Beide Posten getrennt ausweisen und in der Diskussion klar sagen, welcher davon durch eigenes Verhalten überhaupt beeinflussbar ist.

Das siehst du

Eine Sparmaßnahme ist umgesetzt, in der Abrechnung ändert sich nichts.

Warum

Die Maßnahme setzte am kleineren Posten an, während der große Posten unverändert blieb, meist der Kontext, der bei jedem Aufruf mitgeschickt wird.

Was hilft

Vorher aufschlüsseln, welcher Anteil der Tokens auf Eingabe, mitgeschickten Kontext und Ausgabe entfällt, und erst dann ansetzen.

Das siehst du

Zwei Abteilungen nennen für denselben Dienst völlig verschiedene Verbrauchszahlen.

Warum

Die eine rechnet mit Emissionsangaben des Anbieters, die andere mit einer Schätzung pro Anfrage aus einer Veröffentlichung.

Was hilft

Eine Quelle und eine Methode festlegen, beides dokumentieren und bei einem Wechsel die alte Zahl neu berechnen, damit Vergleiche gültig bleiben.

Fünf Größen, die den Verbrauch einer Anfrage bestimmen

  1. 01 Wie groß ist der Teil des Modells, der für die Antwort gerechnet wird?
  2. 02 Wie viele Tokens gehen hinein, und wie viele kommen heraus?
  3. 03 Wie viele Anfragen teilen sich denselben Durchlauf durch das Modell?
  4. 04 Welche Generation von Rechenbeschleunigern steht in der Anlage?
  5. 05 Wie viel Strom braucht das Gebäude zusätzlich für Kühlung und Verteilung?
Was du mitnimmst

Was du danach beurteilen kannst

Statt einer Zahl bekommst du ein Verständnis davon, woraus sie entsteht. Damit lassen sich fremde Angaben einordnen und eigene Maßnahmen an der Stelle ansetzen, an der sie etwas bewegen.

Fremde Angaben einordnen

Du erkennst an einer Verbrauchszahl sofort, welche Annahmen fehlen, und kannst sagen, ob sie auf euren Fall überhaupt übertragbar ist.

Training und Betrieb trennen

Du weißt, welcher der beiden Posten durch eigenes Verhalten beeinflussbar ist, und führst die interne Diskussion nicht über den falschen Posten.

Tokens statt Anfragen steuern

Du nimmst die verarbeitete Textmenge als Kennzahl, weil sie den Anstieg durch Automatisierung und Denkschritte überhaupt erst sichtbar macht.

Modelle nach Aufgabe wählen

Du setzt kleine Modelle für einfache Aufgaben ein und behältst die großen für die Fälle, in denen sie den Unterschied machen.

Region und Zeit nutzen

Du wählst, wo verarbeitet wird, und verschiebst zeitlich unkritische Massenläufe aus der Spitzenlast heraus.

Anbieter richtig fragen

Du fragst nach dem Zusatzaufwand des Gebäudes und nach der Herkunft des Stroms, statt dich auf eine Zahl pro Anfrage zu stützen, deren Annahmen du nicht kennst.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Warum die Zahlen so weit auseinanderliegen

Jede Schätzung pro Anfrage steckt voller Annahmen: welches Modell antwortet, wie lang die Eingabe ist, wie lang die Antwort wird, wie gut die Beschleuniger ausgelastet sind, welche Hardwaregeneration läuft und wie viel Strom das Gebäude zusätzlich für Kühlung und Verteilung braucht. Ändert man allein die Antwortlänge, verschiebt sich das Ergebnis um ein Vielfaches. Zahlen ohne diese Angaben sind nicht falsch, sie sind unvollständig.

Inzwischen nennen die Anbieter selbst Größenordnungen. Google gab im August 2025 für eine mittlere Textanfrage an Gemini rund 0,24 Wattstunden an, OpenAI im Juni 2025 für eine durchschnittliche Anfrage an ChatGPT rund 0,34 Wattstunden. Gegeneinander rechnen lassen sich die beiden Zahlen trotzdem nicht, weil die eine ein Median und die andere ein Mittelwert ist und beide unterschiedlich weit gefasst sind. Alles Weitere stammt aus Hochrechnungen von außen, die aus Modellgröße und geschätzter Nutzung zurückrechnen. Zwei solche Rechnungen können beide sauber gemacht sein und trotzdem weit auseinanderliegen, weil sie an einer einzigen Annahme abzweigen.

Training und Betrieb sind zwei verschiedene Posten

Das Training eines großen Modells ist ein einmaliger, sehr großer Block. Der laufende Betrieb ist ein kleiner Block je Anfrage, der sich über Millionen von Anfragen aufsummiert. Über die Lebensdauer eines viel genutzten Modells überwiegt der Betrieb, und für ein Unternehmen, das ein fertiges Modell einsetzt, ist ohnehin nur der Betrieb die beeinflussbare Größe.

Deshalb führt die Frage nach dem Trainingsverbrauch in der internen Diskussion oft in die Irre. Sie ist für die Bewertung eines Anbieters interessant und für die eigene Steuerung fast bedeutungslos, weil euer Anteil daran mit eurer Nutzung weder steigt noch fällt.

Was im eigenen Haus tatsächlich wirkt

Die größte Stellschraube ist die Menge an Tokens, die überhaupt verarbeitet wird. Sie steigt nicht nur mit der Zahl der Nutzenden, sondern vor allem mit Automatisierungen, die Aufrufe im Hintergrund erzeugen, und mit Modellen, die vor der eigentlichen Antwort Zwischenschritte formulieren. Wer nur Anfragen zählt, sieht diesen Anstieg gar nicht.

Die zweite Stellschraube ist die Modellwahl je Aufgabe. Ein kleines Modell für Klassifizierung, Formatierung und einfache Auszüge und ein großes nur dort, wo es wirklich gebraucht wird, senkt Verbrauch und Kosten gleichzeitig. Das ist der angenehme Teil dieses Themas: Sparsamkeit und Rechnung zeigen hier in dieselbe Richtung, anders als bei vielen anderen Umweltfragen.

Die dritte Stellschraube ist der Ort. Bei Cloud-Diensten lässt sich häufig die Region wählen, und die Emissionen je Kilowattstunde unterscheiden sich zwischen Regionen erheblich. Für zeitlich unkritische Massenverarbeitung kommt hinzu, dass sie nicht zur Spitzenlast laufen muss.

Wasser, Wärme und die Frage, was am Standort passiert

Neben Strom braucht ein Rechenzentrum Kühlung, und je nach Bauart läuft die über Verdunstung, also über Wasser. In Regionen mit knappem Wasser ist das der relevantere Punkt als der Strom selbst. Umgekehrt entsteht Abwärme, die sich nutzen lässt, wenn ein Abnehmer in der Nähe ist. Beides steht in keiner Zahl pro Anfrage und gehört trotzdem in eine ernsthafte Bewertung.

Wenn du einen Anbieter danach fragst, sind zwei Angaben aussagekräftig: wie viel Energie über den Verbrauch der Rechner hinaus anfällt und woher der Strom des Standorts stammt. Beides beantwortet ein Betreiber, der es misst, ohne Zögern. Ausweichende Antworten sind selbst eine Auskunft.

Dazu passende Kurse

Wie sich Verbrauch, Kosten und Modellwahl gemeinsam steuern lassen, behandeln die Weiterbildungen für die strategische Seite von KI .

Wo die Rechenarbeit tatsächlich stattfindet und was das an Aufwand bedeutet, zeigen die Kurse zu Betrieb und Infrastruktur .

Wissen prüfen

Wie sicher bist du beim Thema wirklich?

Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.

Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
LLM Security: Injections erkennen & abwehren
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
KI Data Science: Datenanalyse Grundkurs
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
ChatGPT Aufbaukurs: Datenanalyse, Automatisierung und Workflows

Häufige Fragen

Verbraucht eine KI-Anfrage wirklich so viel wie mehrere Suchanfragen?
Der Vergleich kursiert seit Jahren und stützt sich auf alte Schätzungen, und zwar auf beiden Seiten. Inzwischen haben die Anbieter eigene Größenordnungen genannt, Google rund 0,24 Wattstunden für eine mittlere Textanfrage an Gemini, OpenAI rund 0,34 Wattstunden für eine durchschnittliche Anfrage an ChatGPT. Beide Angaben sind unterschiedlich erhoben und deshalb nicht gegeneinander zu verrechnen. Richtig bleibt die Richtung: Eine Antwort, die Text erzeugt, kostet mehr Rechenarbeit als das Nachschlagen in einem Index. Wie viel mehr, hängt am Modell und an der Antwortlänge.
Lohnt sich ein eigenes Modell im Haus energetisch?
Selten. Ein eigener Server läuft meist schlecht ausgelastet, während ein großer Betreiber viele Anfragen bündelt und modernere Hardware in einem effizienteren Gebäude betreibt. Für den eigenen Betrieb sprechen Vertraulichkeit und Unabhängigkeit, der Energieverbrauch spricht eher dagegen.
Wie kommen wir für den Nachhaltigkeitsbericht an eine Zahl?
Nicht über eine Schätzung pro Prompt. Frag den Anbieter, welche Angaben er zu den Emissionen des Dienstes bereitstellt, und halte fest, worauf eure Zahl beruht. Eine dokumentierte Herkunft ist mehr wert als eine genauer aussehende Zahl aus einer fremden Hochrechnung.
Bringt es etwas, kürzere Prompts zu schreiben?
Bei einzelnen Gesprächen kaum. Sobald derselbe Prompt tausendfach automatisiert läuft, ist jede eingesparte Zeile Kontext in der Abrechnung sichtbar, und die Abrechnung ist der beste verfügbare Näherungswert für den Verbrauch.
Persönlich für dich da

Deine Ansprechpartner

Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.

Yves Hoppe

Yves Hoppe

Weiterbildung & Beratung

Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.

Norbert Jansen

Norbert Jansen

Beratung & Inhouse

Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.

Verbrauch und Kosten zeigen in dieselbe Richtung

Wie sich Modellwahl, Kontextgröße und Betriebsort gemeinsam steuern lassen, arbeitest du in den Kursen zu nachhaltiger KI und Kostenkontrolle an eigenen Zahlen durch.