Modellwahl mit Rechnung

Wann sich ein Reasoning-Modell lohnt

Denkschritte kosten Wartezeit und Geld und helfen nur bei bestimmten Aufgaben. Diese Gegenüberstellung zeigt, bei welchen, und was sonst die bessere Wahl ist.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Seit 1997 am Markt Kleine Gruppen Präsenz und Live-Online Zertifizierte Trainer
Worum es geht

Die teure Variante als Standardeinstellung

In vielen Häusern ist die Modellwahl eine Einmalentscheidung: Es wird genommen, was in einem Vergleich am besten abgeschnitten hat, und dabei bleibt es für alle Aufgaben. Damit läuft auch das Umformatieren einer Adressliste über eine Betriebsart, die für mehrstufige Fehlersuche gebaut ist.

Bemerkbar wird das an zwei Stellen. Die Rechnung steigt, ohne dass jemand sagen kann, welcher Anwendungsfall sie treibt, weil der Denkteil in keiner Oberfläche auftaucht. Und Mitarbeitende brechen Vorgänge ab, weil sie nach zwanzig Sekunden Wartezeit annehmen, es sei etwas hängen geblieben.

Der umgekehrte Fall ist genauso teuer: Eine Aufgabe mit echten Abhängigkeiten läuft auf der schnellen Variante, liefert überzeugend klingende falsche Ergebnisse und fällt erst auf, wenn jemand nachrechnet.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der direkte Vergleich

Der direkte Vergleich

Schnelles Standardmodell

antwortet direkt, ohne zusätzlichen Denkteil vor der Ausgabe

Reasoning-Modell

erzeugt vor der Antwort Denkschritte, die mitbezahlt werden

Standardmodell in mehreren Schritten

du zerlegst die Aufgabe und rufst dasselbe schnelle Modell mehrfach auf

Wie zuverlässig wird eine Aufgabe mit mehreren aufeinander aufbauenden Rechenschritten gelöst?

Schnelles Standardmodell

Ein Fehler in einem Zwischenschritt bleibt unbemerkt und wandert unverändert in die Antwort.

Reasoning-Modell

Zwischenergebnisse werden festgehalten und im Arbeitsteil gelegentlich selbst korrigiert.

Standardmodell in mehreren Schritten

Jeder Schritt lässt sich einzeln prüfen, bevor der nächste startet, allerdings nur, wenn du die Schritte kennst.

Wie verhält es sich, wenn jemand in einer Oberfläche auf die Antwort wartet?

Schnelles Standardmodell

Die Ausgabe beginnt sofort, das passt zu einer Eingabe, hinter der ein Mensch sitzt.

Reasoning-Modell

Der Denkteil läuft vor der ersten sichtbaren Ausgabe, die Pause wirkt wie ein Hänger.

Standardmodell in mehreren Schritten

Mehrere Aufrufe summieren sich, dafür kannst du Zwischenstände anzeigen und die Wartezeit erklären.

Was kostet ein einzelner Durchlauf?

Schnelles Standardmodell

Bezahlt wird im Wesentlichen das, was in der Antwort steht.

Reasoning-Modell

Der Denkteil wird als erzeugter Text abgerechnet und kann die sichtbare Antwort deutlich übersteigen.

Standardmodell in mehreren Schritten

Jeder Aufruf ist billig, dafür fallen mehrere an, und der gemeinsame Vorspann wiederholt sich.

Wie gut ist das Ergebnis beim Zusammenfassen und Umformulieren vorhandener Texte?

Schnelles Standardmodell

Hier gibt es keine Kette von Zwischenschritten, an der etwas scheitern könnte.

Reasoning-Modell

Das Ergebnis ist selten besser, dafür langsamer und teurer, und Zwischenüberlegungen können in die Antwort rutschen.

Standardmodell in mehreren Schritten

Die Zerlegung bringt nichts, wo es nichts zu zerlegen gibt, und erzeugt nur zusätzliche Aufrufe.

Wie nachvollziehbar ist im Nachhinein, wie eine Antwort zustande kam?

Schnelles Standardmodell

Es gibt nur die Antwort, jede Rückfrage beginnt von vorn.

Reasoning-Modell

Es gibt einen Arbeitsteil, den die Anbieter aber nur zusammengefasst oder gar nicht herausgeben.

Standardmodell in mehreren Schritten

Jeder Schritt liegt als eigener Aufruf mit Ein- und Ausgabe vor und lässt sich einzeln prüfen.

Was passiert bei einer unvollständig beschriebenen Aufgabe?

Schnelles Standardmodell

Die naheliegende Auslegung wird gewählt und selbstbewusst beantwortet.

Reasoning-Modell

Mehrdeutigkeiten fallen im Arbeitsteil häufiger auf und werden benannt statt überspielt.

Standardmodell in mehreren Schritten

Ein vorgeschalteter Prüfschritt fängt das ab, den musst du aber vorher gebaut haben.

Was passt wann

Wenn eine Aufgabe mehrere voneinander abhängige Schritte hat und niemand sie sicher zerlegen kann
nimm ein Reasoning-Modell und plane die Wartezeit fest in den Ablauf ein
Wenn es im Kern um die Umformung vorhandener Texte geht, also Zusammenfassen, Umschreiben oder Extrahieren
bleib beim schnellen Standardmodell und stecke den Aufwand in die Anweisung
Wenn die Schritte bekannt sind und das Ergebnis später erklärt werden muss
zerlege die Aufgabe selbst und ruf ein schnelles Modell mehrfach mit klar begrenztem Auftrag auf

Fünf Fragen vor der Wahl der Betriebsart

  1. 01 Hängt Schritt drei davon ab, dass Schritt zwei richtig war?
  2. 02 Wartet jemand vor dem Bildschirm auf das Ergebnis?
  3. 03 Muss später erklärbar sein, wie die Antwort zustande kam?
  4. 04 Sind die Teilschritte bekannt, sodass du sie selbst zerlegen kannst?
  5. 05 Wie oft läuft die Aufgabe, hundertmal am Tag oder zehnmal im Monat?
Was du mitnimmst

Was du danach entscheiden kannst

Ziel ist nicht ein Lieblingsmodell, sondern eine Zuordnung: welcher Aufgabentyp läuft in welcher Betriebsart, und woran das begründet ist.

Aufgabentypen erkennen

Du unterscheidest Aufgaben mit abhängigen Zwischenschritten von reinen Umformungen und ordnest sie ohne langes Ausprobieren zu.

Kosten realistisch schätzen

Du rechnest den Denkteil als erzeugten Text mit ein und weißt deshalb, warum die Rechnung nicht zur sichtbaren Antwortlänge passt.

Wartezeit einplanen

Du entscheidest je Oberfläche, ob eine Pause vor der ersten Ausgabe vertretbar ist, und wählst danach die Betriebsart.

Denktiefe einstellen

Du fährst dieselben Fälle über mehrere Stufen und wählst die niedrigste, bei der die Qualität noch trägt.

Zerlegen als Alternative

Du erkennst Fälle, in denen mehrere kleine Aufrufe eines schnellen Modells besser sind, weil sie prüfbar und billiger bleiben.

Vergleiche belegen

Du setzt eine kleine Messreihe mit echten Fällen auf, statt die Auswahl mit dem Ergebnis einer Bestenliste zu begründen.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Was beim Nachdenken tatsächlich passiert

Das Modell erzeugt vor der eigentlichen Antwort einen internen Arbeitsteil, in dem es die Aufgabe zerlegt, Zwischenergebnisse festhält und sich gelegentlich selbst korrigiert. Dieser Teil zählt bei den Anbietern als erzeugter Text und wird entsprechend abgerechnet, auch wenn du ihn nicht oder nur zusammengefasst zu sehen bekommst. Wer die Kosten schätzt, muss ihn einrechnen, und er kann ein Vielfaches der sichtbaren Antwort ausmachen.

Genauso wichtig ist die Wartezeit. Bei einer Aufgabe im Hintergrund spielt es keine Rolle, ob die Antwort nach fünf oder nach fünfzig Sekunden kommt. In einer Oberfläche, in der jemand wartet, ist das der Unterschied zwischen brauchbar und unbenutzbar.

Aufgaben, bei denen es messbar hilft

Der gemeinsame Nenner ist Abhängigkeit: Schritt drei ist nur richtig, wenn Schritt zwei stimmt. Dazu gehören mehrstufige Rechnungen, das Auffinden eines Fehlers in einem Ablauf, Planung mit mehreren gleichzeitig geltenden Bedingungen, das Prüfen einer fremden Argumentation auf Widersprüche und Aufgaben, bei denen mehrere Angaben zusammengeführt werden müssen, bevor eine Aussage entsteht.

Ein zweiter Fall wird oft übersehen: Aufgaben, deren Vorgaben unvollständig sind. Ein Modell mit Denkschritten fällt seltener auf die naheliegende, aber falsche Auslegung herein, weil es die Mehrdeutigkeit im Arbeitsteil bemerkt und benennt.

Aufgaben, bei denen ein schnelles Modell gleich gut ist

Alles, was im Wesentlichen eine Umformung vorhandener Angaben ist: Zusammenfassen, Umformulieren, Übersetzen, Tonfall ändern, Felder aus einem Dokument in eine feste Struktur überführen, Texte einer von wenigen Kategorien zuordnen. Hier gibt es keine Kette von Zwischenschritten, die schiefgehen könnte, und zusätzliche Denkzeit erzeugt vor allem Kosten.

In manchen Fällen wird das Ergebnis sogar schlechter, weil das Modell eine einfache Aufgabe zerdenkt und Zwischenüberlegungen in die Antwort geraten. Wenn du für einfache Aufgaben trotzdem ein Modell mit Denkschritten einsetzt, gehört in die Anweisung, dass nur das Endergebnis auszugeben ist.

Der dritte Weg: Standardmodell mit Struktur

Zwischen beiden Varianten liegt eine Möglichkeit, die im Alltag oft die beste ist: die Aufgabe selbst zerlegen und ein schnelles Modell mehrfach aufrufen. Erst prüfen, dann rechnen, dann formulieren, jeweils mit klar begrenztem Auftrag. Das ist nachvollziehbar, gut zu testen und pro Schritt billig.

Der Preis dafür ist Bauaufwand: Du musst die Schritte kennen. Wenn niemand sagen kann, wie eine Aufgabe zu zerlegen ist, ist das gerade der Fall, in dem ein Reasoning-Modell seinen Vorteil ausspielt.

Dazu passende Kurse

Welche Betriebsart zu welcher Aufgabe passt, ordnen die Weiterbildungen für die Auswahl passender Werkzeuge .

Wer solche Vergleiche messbar aufsetzen will, statt nach Gefühl zu entscheiden, findet das Rüstzeug in den Formate für die technische Bewertung von Sprachmodellen .

Wissen prüfen

Wie sicher bist du beim Thema wirklich?

Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.

Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
LLM Security: Injections erkennen & abwehren
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
KI Data Science: Datenanalyse Grundkurs
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
ChatGPT Aufbaukurs: Datenanalyse, Automatisierung und Workflows

Häufige Fragen

Woran erkenne ich, ob sich der Aufwand für meine Aufgabe lohnt?
An einer kleinen Gegenprobe: Nimm zwanzig echte Fälle, lass sie von beiden Varianten bearbeiten und bewerte die Ergebnisse blind. Bleibt der Unterschied unter der Schwelle, ab der ihn jemand bemerken würde, hat sich die Frage erledigt.
Kann ich die Denktiefe steuern?
Ja, die gängigen Schnittstellen bieten dafür Stufen an, von knapp bis ausführlich. Der Weg dahin führt über eine Messreihe: dieselben Fälle über alle Stufen laufen lassen und Qualität, Wartezeit und Kosten nebeneinander legen. Die höchste Stufe ist selten die wirtschaftlichste.
Soll ich zusätzlich „denk Schritt für Schritt“ in die Anweisung schreiben?
Bei einem Reasoning-Modell nicht, das tut es ohnehin, und die Aufforderung stört eher. Bei einem schnellen Modell ist es dagegen ein bewährter Griff, wenn eine Aufgabe wirklich mehrere Schritte hat.
Ist ein Reasoning-Modell einfach das bessere Modell?
Nein, es ist eine andere Betriebsart mit einem anderen Kostenprofil. Für einen großen Teil des Büroalltags ist die schnelle Variante die passendere, weil die Aufgaben dort keine Kette von Zwischenschritten enthalten.
Persönlich für dich da

Deine Ansprechpartner

Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.

Yves Hoppe

Yves Hoppe

Weiterbildung & Beratung

Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.

Norbert Jansen

Norbert Jansen

Beratung & Inhouse

Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.

Auswahl mit Zahlen statt mit Gefühl

Wer einmal eine kleine Messreihe mit echten Fällen aufgesetzt hat, begründet die nächste Modellentscheidung in zehn Minuten statt in einer Diskussionsrunde.