Anpassung von Modellen

Was ist Fine-Tuning?

Feinabstimmung

Fine-Tuning, deutsch Feinabstimmung, ist im maschinellen Lernen das Nachtrainieren eines bereits vortrainierten Modells mit einem eigenen, meist deutlich kleineren Datensatz. Das Modell lernt dabei vor allem, eine bestimmte Aufgabe, ein Format oder eine Fachsprache zuverlässig zu treffen, neues Faktenwissen nimmt es dagegen nur unzuverlässig auf.

Wenn ein Modell die Aufgabe zwar versteht, aber Ton und Format bei jedem Durchlauf anders trifft, hilft auch ein längerer Prompt nicht mehr weiter.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Bringt bei
Format, Ton und Fachsprache
Braucht
Geprüfte Beispielpaare, keine Rohdaten
Ungeeignet für
Wissen, das sich laufend ändert
Verwechselt mit
RAG

Wie ein Fine-Tuning abläuft

Am Anfang stehen ein Basismodell und ein Datensatz aus Paaren: eine Eingabe und die Antwort, die du dir wünschst. Genau diese Paare sind die eigentliche Arbeit. Wenn zehn Beispiele den Ton treffen und zehn weitere ihn verfehlen, lernt das Modell den Widerspruch mit, nicht die Regel dahinter.

Das Training selbst passt die Gewichte des Modells in kleinen Schritten so an, dass es die gewünschten Antworten wahrscheinlicher erzeugt. Vor dem ersten Lauf legst du einen Teil der Beispiele beiseite, den das Modell nie zu sehen bekommt, damit sich hinterher prüfen lässt, ob es wirklich besser geworden ist oder nur die Trainingsbeispiele auswendig gelernt hat.

Verfahren: vom vollständigen Training bis LoRA

Unter dem Begriff laufen mehrere Verfahren, die sich vor allem darin unterscheiden, wie viel vom Modell verändert wird und woraus es lernt:

  • Vollständiges Fine-Tuning

    Alle Gewichte des Modells werden verändert. Das kostet viel Grafikspeicher und Rechenzeit und erzeugt für jede Variante ein komplettes neues Modell.

  • LoRA und QLoRA

    Das Basismodell bleibt eingefroren, trainiert werden nur kleine zusätzliche Matrizen, die beim Rechnen dazugeschaltet werden. Bei QLoRA liegt das Basismodell zusätzlich quantisiert im Speicher. Das Ergebnis ist ein Adapter, der um Größenordnungen kleiner ist als das Modell.

  • Instruction Tuning

    Nachtraining mit Anweisungen und passenden Antworten, damit ein Basismodell Aufträgen folgt. So entstehen aus reinen Sprachmodellen die Chat-Modelle.

  • Preference Tuning

    Das Modell lernt aus Bewertungen, welche von zwei Antworten besser ist, etwa per RLHF (Reinforcement Learning from Human Feedback) oder DPO (Direct Preference Optimization).

Im Unternehmen ist LoRA der übliche Weg, weil sich damit auf gemieteter oder eigener Hardware in überschaubarer Zeit trainieren lässt und mehrere Adapter für verschiedene Aufgaben auf demselben Basismodell laufen können.

Wofür sich der Aufwand im Betrieb lohnt

Fine-Tuning wirkt am stärksten dort, wo eine Aufgabe eng, wiederkehrend und klar bewertbar ist: Tickets in Kategorien einsortieren, Freitext in ein festes Feldschema überführen, Befundtexte in der Hausterminologie formulieren, Antworten immer im gleichen Aufbau liefern. Was du sonst in einen sehr langen Prompt schreiben müsstest, steckt danach im Modell.

Beim zweiten Grund geht es um Geld und Tempo. Ein kleines Modell, das auf eine einzige Aufgabe getunt ist, kommt oft an die Qualität eines deutlich größeren Allzweckmodells heran, braucht aber weniger Hardware und antwortet schneller. Bei hohen Stückzahlen entscheidet das über die Wirtschaftlichkeit des ganzen Vorhabens.

Die zwei häufigsten Fehler

Der Klassiker ist der Versuch, dem Modell per Fine-Tuning Wissen beizubringen: das eigene Handbuch, die Preisliste, alle Verträge. Fakten aus den Trainingsdaten liegen im Modell nicht in einer Form vor, in der sie sich nachschlagen ließen, sie vermischen sich und tauchen später halb richtig wieder auf. Änderungen an der Preisliste bedeuten außerdem jedes Mal einen neuen Trainingslauf. Für Wissen ist der Abruf aus einer Datenquelle zur Laufzeit der richtige Weg, für Verhalten das Fine-Tuning.

Der zweite Fehler heißt in der Fachsprache Catastrophic Forgetting: Ein Modell, das zu lange auf einem engen Datensatz trainiert wird, verliert Fähigkeiten, die vorher da waren. Wenn dein getuntes Modell die Fachaufgabe glänzend löst, aber bei einer einfachen Rückfrage aussteigt, hast du zu lange oder mit zu wenig Vielfalt trainiert. Adapterverfahren mildern das, weil das Basismodell unverändert bleibt.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Nicht verwechseln

Fine-Tuning und was oft damit gleichgesetzt wird

Fine-Tuning gegen RAG

Bei RAG bleibt das Modell unverändert, es bekommt die passenden Dokumente zur Anfrage dazugereicht. Aktuelle oder häufig wechselnde Inhalte gehören dorthin, nicht ins Fine-Tuning.

Fine-Tuning gegen Prompt Engineering

Eine gute Anweisung wirkt nur für die eine Anfrage und lässt sich in Minuten ändern. Fine-Tuning verankert dasselbe Verhalten dauerhaft in den Gewichten und lohnt sich erst, wenn der Prompt an seine Grenze kommt.

Fine-Tuning gegen Quantisierung

Quantisierung ändert die Zahlengenauigkeit, mit der die Gewichte gespeichert und verrechnet werden. Sie bringt dem Modell keine neue Aufgabe bei, kostet je nach Stufe aber etwas Antwortqualität. Beides lässt sich kombinieren, etwa wenn du ein quantisiertes Basismodell mit Adaptern nachtrainierst.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
In der Praxis

Der Datensatz ist die Arbeit, das Training ist der kurze Teil

Die Beispiele kommen fast immer aus dem Altbestand, aus Tickets, Angeboten oder Gutachten. Genau dort stecken widersprüchliche Formulierungen, überholte Regelungen und die Eigenheiten einzelner Leute, und das Modell übernimmt sie mit derselben Selbstverständlichkeit wie die richtigen Muster. Das Aussortieren und Vereinheitlichen ist der eigentliche Aufwand und dauert um ein Vielfaches länger als der Trainingslauf selbst.

Ohne festen Testsatz merkst du nicht, was du eingetauscht hast. Ein eng trainiertes Modell trifft die geübten Fälle besser und wird bei allem daneben schlechter, und das fällt erst auf, wenn eine ungewöhnliche Anfrage im Alltag ankommt. Leg deshalb vor dem Training eine Sammlung echter Fälle beiseite, an denen nicht trainiert wird, und vergleiche das alte und das neue Modell darauf Satz für Satz.

Ein angepasstes Modell ist ein Stand, den du pflegen musst. Es hängt an einem bestimmten Grundmodell, und wenn du dieses wechselst, ist der Lauf zu wiederholen. Rechtlich kommt hinzu, dass personenbezogene Angaben, die einmal im Trainingsmaterial waren, sich später nicht mehr gezielt aus dem Modell herauslösen lassen. Was nicht hinein soll, muss vorher aus den Beispielen heraus.

Fine-Tuning lernen

Wie so ein Lauf von der Datenaufbereitung über LoRA bis zur Bewertung abläuft, üben die Trainings zum Anpassen eigener Modelle an offenen Modellen.

Was danach mit dem fertigen Modell passiert, also Registry, Rollout und Überwachung, behandeln die Kurse rund um den Modellbetrieb.

Wissen prüfen

Sitzt Fine-Tuning schon?

Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.

Häufige Fragen

Wie schreibt man Fine-Tuning richtig?
Korrekt sind Fine-Tuning mit Bindestrich und die zusammengeschriebene Form Finetuning, beide großgeschrieben, weil es im Deutschen ein Substantiv ist. Das Verb lautet entsprechend fine-tunen oder finetunen, im Partizip getunt. Daneben ist das eingedeutschte Feintuning verbreitet, vor allem außerhalb der KI.
Was bedeutet Fine-Tuning außerhalb der KI?
Allgemein meint Fine-Tuning die letzte, feine Einstellung von etwas, das im Groben schon funktioniert, etwa bei einem Motor, einer Werbekampagne oder einem Prozess. In der KI ist daraus ein Fachbegriff für das Nachtrainieren vortrainierter Modelle geworden.
Wie viele Beispiele brauche ich für ein Fine-Tuning?
Das hängt davon ab, wie eng die Aufgabe ist. Für ein festes Ausgabeformat reichen erstaunlich wenige, dafür sehr saubere und untereinander konsistente Beispiele. Für einen Schreibstil brauchst du mehr Vielfalt. Entscheidend ist nicht die Menge, sondern dass alle Beispiele dieselbe Regel zeigen.
Brauche ich dafür eigene GPUs?
Nicht zwingend. Adapterverfahren wie LoRA laufen auf gemieteter Hardware in überschaubarer Zeit, und mehrere Anbieter bieten Fine-Tuning direkt über ihre API an. Eigene Hardware wird erst zum Thema, wenn die Trainingsdaten das Haus nicht verlassen dürfen.

Passt thematisch dazu

Bevor du Trainingsdaten sammelst, gehört der Vergleich mit dem Abruf aus eigenen Dokumenten an den Anfang, denn viele Anforderungen lassen sich ohne Eingriff ins Modell lösen.

Persönlich für dich da

Deine Ansprechpartner

Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.

Yves Hoppe

Yves Hoppe

Weiterbildung & Beratung

Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.

Norbert Jansen

Norbert Jansen

Beratung & Inhouse

Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.

Fine-Tuning im Kurs statt im Lexikon

Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.