NVIDIA - Schnelle Anwendungsentwicklung mit großen Sprachmodellen

• Softwareentwicklerinnen und Softwareentwickler, die LLM-Funktionen in Anwendungen, Chatbots, Assistenzsysteme oder interne Tools integrieren möchten
• Data Scientists, Machine-Learning-Engineers und KI-Teams, die Encoder-, Decoder- und Seq2Seq-Modelle gezielt für NLP-Aufgaben einsetzen
• Technische Projektleitungen und Solution Architects, die LLM-Prototypen bewerten, planen und in bestehende Systemlandschaften einordnen
• Fachlich-technische Teams mit Data-Science-Bezug, die nach Grundlagen aus dem Data-Science-Umfeld den Einstieg in große Sprachmodelle vertiefen

• Fundiertes Verständnis der wichtigsten LLM-Architekturen von Transformer über Encoder und Decoder bis zu Encoder-Decoder-Modellen
• Sichere Auswahl, Bewertung und Nutzung geeigneter HuggingFace-Modelle für konkrete NLP-Aufgaben
• Praxisnaher Einsatz von Encoder-Modellen für Klassifizierung, Embeddings, semantische Analyse und Frage-Antwort-Szenarien
• Textgenerierung mit Decoder-Modellen für Freitextantworten, Code-Erstellung und Dialogsysteme gezielt planen
• Retrieval-Augmented Generation und Zustandsmanagement für kontextbezogene LLM-Anwendungen einordnen und anwenden
• Eigene LLM-Prototypen mit Blick auf Qualität, Sicherheit, Kosten und nächste Umsetzungsschritte bewerten

Einstieg und Arbeitsumgebung

• Begrüßung, Zielsetzung und organisatorischer Ablauf
• Vorstellung der eingesetzten Entwicklungsumgebung
• Einrichtung eines Kontos für die praktischen Übungen
• Überblick über typische LLM-Anwendungsfälle wie Chatbots, Assistenzfunktionen, Textanalyse und Frage-Antwort-Systeme

Vom Deep Learning zu großen Sprachmodellen

• Grundlagen von Deep Learning als Basis moderner Sprachmodellierung
• Klassenbasiertes Denken und Übergang zur Verarbeitung natürlicher Sprache
• Aufbau und Funktionsweise großer Sprachmodelle
• Transformer-Architekturen mit zentralen Konzepten, Schnittstellen und zugrunde liegender Intuition
• Skalierung und Anpassung von Modellen für LLM-Lösungen
• Einordnung von Modellgröße, Trainingsaufwand und praktischer Nutzbarkeit

Spezialisierte Encoder-Modelle

• Überblick über Encoder-Modelle aus dem HuggingFace-Ökosystem
• Auswahl geeigneter vortrainierter und feinabgestimmter Modelle
• Token-Klassifizierung für die Analyse einzelner Textelemente
• Sequenz-Klassifizierung für die Bewertung vollständiger Texte
• Spannen- und Bereichsvorhersage für Frage-Antwort-Anwendungen
• Zero-Shot-Klassifizierung für Aufgaben ohne klassisches Training auf eigenen Labels
• Semantische Analyse und Text-Einbettungen als Grundlage weiterführender Anwendungen

Encoder-Decoder-Modelle für Sequence-to-Sequence-Aufgaben

• Generierung unbegrenzter Sequenzen mit LLMs
• Decoder-Komponenten für autoregressive Texterzeugung
• Cross-Attention als Verbindung zwischen Eingabe und Ausgabe
• Sequence-as-Context-Prinzip für die Verarbeitung komplexer Aufgabenstellungen
• Multitasking-Ansätze in Seq2Seq-Modellen
• Zero-Shot-Reasoning für flexible Aufgabenbearbeitung
• Grundlagen multimodaler Sequenzmodelle anhand ausgewählter Beispiele

Decoder-Modelle für Textgenerierung

• GPT-ähnliche Architekturen und ihre Einsatzbereiche
• Abgrenzung reiner Decoder-Modelle gegenüber Encoder- und Encoder-Decoder-Ansätzen
• Typische Herausforderungen beim Training und Einsatz generativer Modelle
• Einfluss von Modellgröße auf Qualität, Kosten und Laufzeit
• Anwendungstechniken für Code-Erstellung, Freitextantworten und Dialogsysteme
• Analyse ausgewählter großer Textgenerierungsmodelle und ihrer Funktionsweise

Zustandsbasierte LLMs und Retrieval-Augmented Generation

• Erweiterung von Sprachmodellen durch Kontext, Verlauf und externe Wissensquellen
• Kompositionstechniken für History- und Zustandsmanagement
• Retrieval-Augmented Generation zur Einbindung externer Datenquellen
• Kontextsensitives Systemdesign statt isolierter Textgenerierung
• Grundlagen für kontrollierbare, nachvollziehbare und effizientere LLM-Anwendungen
• Bezug zu Datenqualität und Datenstrukturen, vertiefbar im Training Data-Centric AI und Data Contracts

Wiederholung, Bewertung und Abschluss

• Zusammenfassung der zentralen Lerninhalte
• Wiederholung wichtiger Modelltypen und Entscheidungskriterien
• Codebasierte Abschlussprüfung zur Erlangung eines Zertifikats
• Q&A zu eigenen Projekten, typischen Use Cases und nächsten Umsetzungsschritten

• Fachlicher Trainerinput zu Deep Learning, Transformer-Architekturen, Modelltypen und LLM-Anwendungsdesign
• Live-Demos zur Arbeit mit Modellen, Workflows und typischen Entwicklungsentscheidungen
• Hands-on-Übungen mit codebasierten Beispielen und praxisnahen Aufgabenstellungen
• Analyse ausgewählter Use Cases wie Chatbots, Textautomatisierung, Frage-Antwort-Systeme und RAG-Anwendungen
• Q&A-Phasen zur Einordnung eigener Projektideen und technischer Umsetzungsfragen
• Codebasierte Abschlussprüfung zur Überprüfung der zentralen Lerninhalte