Was ist ein Large Language Model (LLM)?

Wie ein LLM funktioniert

Fast alle heutigen Sprachmodelle beruhen auf der Transformer-Architektur, die Forschende bei Google 2017 vorgestellt haben. Was zwischen deiner Eingabe und der fertigen Antwort passiert, lässt sich in sechs Schritten beschreiben:

1. 1

   Tokenisierung

   Der eingegebene Text wird in Tokens zerlegt, also Wörter und Wortstücke, und jedes Token bekommt eine Nummer.

2. 2

   Embedding

   Jede Nummer wird in einen langen Zahlenvektor übersetzt, der die Bedeutung des Tokens im Zusammenhang abbildet.

3. 3

   Transformer-Schichten

   Die Vektoren laufen durch viele Schichten. Der Aufmerksamkeitsmechanismus gewichtet dabei für jedes Token, welche anderen Stellen im Text gerade wichtig sind, so bezieht das Modell ein Pronomen auf das richtige Substantiv, auch wenn zwei Absätze dazwischenliegen.

4. 4

   Wahrscheinlichkeiten

   Am Ende steht keine Antwort, sondern eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Tokens.

5. 5

   Auswahl

   Aus dieser Verteilung wird ein Token gewählt, nicht immer das wahrscheinlichste. Wie viel Zufall dabei mitspielt, steuert ein Parameter namens Temperatur.

6. 6

   Wiederholung

   Das gewählte Token wird angehängt, und der Vorgang beginnt von vorn, bis die Antwort fertig ist oder eine Längengrenze erreicht wird.

Weil im fünften Schritt nicht immer die wahrscheinlichste Option genommen wird, bekommst du auf dieselbe Frage nicht jedes Mal denselben Wortlaut. Und weil das Modell Token für Token schreibt, ohne vorher die ganze Antwort zu planen, kann es sich mitten im Text in eine falsche Richtung festlegen.

Warum „large“: Daten und Parameter

Groß ist ein solches Modell in zweierlei Hinsicht. Es wird mit Textmengen trainiert, die weit über das hinausgehen, was ein Mensch je lesen könnte, und es hat sehr viele Parameter, also im Training gelernte Gewichte. GPT-3 von OpenAI hatte 2020 bereits 175 Milliarden Parameter, heutige Spitzenmodelle liegen je nach Bauart in derselben Größenordnung oder darüber, viele Anbieter nennen die Zahl gar nicht mehr.

Die Parameterzahl sagt etwas über den Speicherbedarf und grob über die Leistungsfähigkeit, aber wenig über die Eignung für deine Aufgabe. Ein kleineres, gut angepasstes Modell schlägt bei einer engen Aufgabe regelmäßig das größere Allzweckmodell, und für den Betrieb auf eigener Hardware lassen sich Modelle durch Quantisierung zusätzlich verkleinern.

Wie ein Modell entsteht

Ein Chatmodell entsteht in mehreren Trainingsstufen, die aufeinander aufbauen. Erst die späteren Stufen machen aus einem Textfortsetzer einen Assistenten:

1. 1

   Vortraining

   Das Netz lernt an riesigen Textmengen die Struktur von Sprache und nebenbei einen großen Teil dessen, was in diesen Texten stand. Ergebnis ist ein Basismodell, das Text fortsetzt, aber keine Anweisungen befolgt.

2. 2

   Instruction Tuning

   Das Modell wird auf Beispielen aus Anweisung und gewünschter Antwort nachtrainiert und lernt so, auf Fragen zu antworten statt sie fortzuschreiben.

3. 3

   Ausrichtung mit Feedback

   Menschliche Bewertungen oder ein daraus gelerntes Bewertungsmodell steuern über Reinforcement Learning, welche Antworten bevorzugt werden: hilfreich, sachlich, ohne schädliche Inhalte.

4. 4

   Training für Denkschritte

   Sogenannte Reasoning-Modelle werden zusätzlich darauf trainiert, vor der Antwort längere Zwischenüberlegungen zu erzeugen, was bei Mathematik, Code und mehrstufigen Aufgaben hilft.

Bekannte LLMs und wie du sie nutzt

Die Modelle werden von wenigen großen Anbietern und einer wachsenden Zahl offener Projekte entwickelt. Die Familien bleiben über Jahre bestehen, die Versionsnummern wechseln dagegen oft mehrmals im Jahr:

Ein Teil der Modelle ist nur über die Schnittstelle des Anbieters nutzbar. Bei anderen sind die Gewichte zum Herunterladen freigegeben, sodass du sie auf eigener Hardware betreiben und anpassen kannst. Offene Gewichte bedeuten dabei nicht automatisch freie Nutzung: Die Lizenzen unterscheiden sich, und manche begrenzen den kommerziellen Einsatz. Der Unterschied entscheidet weniger über die Qualität als darüber, wo deine Daten verarbeitet werden und wovon dein Betrieb dauerhaft abhängt.

Was ein LLM nicht ist

Ein Sprachmodell hat keine Faktendatenbank, in der es nachschlagen könnte, und keinen Zugriff auf deine Systeme, solange du ihm keine Werkzeuge gibst. Es weiß nichts über Ereignisse nach dem Ende seines Trainings, und es rechnet nicht, sondern setzt Ziffernfolgen fort, die plausibel aussehen. Bei mehrstelligen Rechnungen liegt es deshalb ohne Hilfsmittel regelmäßig daneben.

Für jede dieser Lücken gibt es einen Baustein daneben: den Abruf aus Dokumenten für Fakten, Werkzeugaufrufe für Systemzugriff, Code für Zahlen. Viele Assistenten bringen diese Bausteine heute mit, etwa eine Websuche oder die Ausführung von Python. Wer das Modell allein lässt, bekommt die bekannten Fehler geliefert.