Langfuse Schulung: LLM-Systeme messbar betreiben
LLM-Antworten über Traces bis zur Ursache verfolgen und Releases mit messbaren Qualitäts-Gates freigeben
Die wichtigsten Themen
Langfuse lokal und auf Kubernetes betreiben
LLM-, RAG- und Agenten-Traces instrumentieren
Kosten und Latenzen nach Ursache analysieren
LLM-as-a-Judge für Evaluation einsetzen
Prompt-Versionen mit Datensätzen vergleichen
Qualitäts-Gates für Releases definieren
Überblick Eine plausible RAG-Antwort kann auf unpassenden Quellen beruhen, während ein Agent denselben Werkzeugaufruf mehrfach auslöst und dadurch zusätzliche Modellkosten erzeugt. Langfuse zeigt die vollständige Aufrufkette....
Eine plausible RAG-Antwort kann auf unpassenden Quellen beruhen, während ein Agent denselben Werkzeugaufruf mehrfach auslöst und dadurch zusätzliche Modellkosten erzeugt. Langfuse zeigt die vollständige Aufrufkette. Traces, Spans und Sessions verbinden den auslösenden Prompt mit Retrieval-Schritten und Werkzeugaufrufen. Kosten und Latenzen bleiben an jedem Schritt sichtbar.
In der Langfuse Schulung instrumentierst du eine LLM-Anwendung mit den Langfuse-SDKs und OpenTelemetry. Die Übungsinstanz steht bereit. Lokal läuft sie mit Docker Compose, auf Kubernetes per Helm. Testdatensätze und Bewertungsrubriken liefern Scores, die du anhand geprüfter Stichproben kalibrierst und als Schwellenwerte für Release-Gates in der CI/CD-Pipeline verwendest. Der Datenschutzteil behandelt, welche Prompt- und Antwortdaten erfasst, gespeichert und gelöscht werden. Alle benötigten Zugänge sind enthalten.
Die Themen Docker Compose für lokale Installationen · Helm-Deployment auf Kubernetes-Clustern · Datenflüsse zwischen Self-Hosting-Komponenten · Langfuse-Projekte und API-Schlüssel verwalten · Langfuse-SDKs für LLM-Aufrufe...
Architektur und Self-Hosting
- Docker Compose für lokale Installationen
- Helm-Deployment auf Kubernetes-Clustern
- Datenflüsse zwischen Self-Hosting-Komponenten
- Langfuse-Projekte und API-Schlüssel verwalten
Instrumentierung und Telemetrie
- Langfuse-SDKs für LLM-Aufrufe
- OpenTelemetry für herstellerneutrales Tracing
- Separate Spans für RAG-Schritte
- Werkzeug- und Modellaufrufe verknüpfen
Traces analysieren
- Trace-, Span- und Session-Modell
- Kosten je Modell und Anwendung
- Latenzen entlang der Aufrufkette
- Fehlerursachen in RAG-Traces untersuchen
Self-Hosting und Datenschutz
- Datenminimierung für Ein- und Ausgaben
- Aufbewahrungsfristen im Self-Hosting festlegen
- Kubernetes-Secrets für Zugangsdaten verwalten
- Projektzugriffe über Rollen steuern
Qualitätsmessung mit Langfuse
- Testdatensätze mit erwarteten Antworten
- Regelbasierte Evaluatoren und Scores
- LLM-as-a-Judge mit Bewertungsrubriken
- Online-Evaluation für produktive Traces
- Offline-Evaluation vor geplanten Releases
Release-Gates und Qualitätstrends
- Prompt-Versionen mit Freigabe-Labels steuern
- Experimente mit festen Testdatensätzen ausführen
- CI/CD-Gates mit Schwellenwerten definieren
- Kosten- und Latenzgrenzen prüfen
- Qualitätstrends zwischen Releases vergleichen
Zielgruppe
- KI-Entwickler mit produktiven LLM-Anwendungen
- MLOps-Fachkräfte für generative KI-Systeme
- Platform Engineers mit Kubernetes-Erfahrung
- Data Scientists mit RAG- oder Agenten-Projekten
Das lernst du
- Langfuse lokal und als Kubernetes-Deployment betreiben
- LLM-, RAG- und Agenten-Aufrufe durchgängig instrumentieren
- Fehlerursachen über Traces, Spans und Sessions lokalisieren
- Evaluationsdatensätze mit LLM-as-a-Judge auswerten
- Prompt-Versionen anhand wiederholbarer Experimente auswählen
- Qualitäts-Gates definieren, damit auffällige Releases vor der Freigabe sichtbar werden
So arbeiten wir
Kurze Fachinputs wechseln mit Live-Demonstrationen und Übungen in einer bereitgestellten Langfuse-Umgebung. Die Gruppe instrumentiert eine LLM-, eine RAG- und eine Agenten-Anwendung. Trace-Analysen, Prompt-Experimente und der Aufbau eines Qualitäts-Gates schließen die Themenblöcke ab.
Empfohlene Vorkenntnisse
- Grundkenntnisse in Python und LLM-APIs
- Docker- und Kubernetes-Grundlagen, etwa aus dem Kubernetes Grundkurs
Dein Fahrplan
- Langfuse lokal mit Docker Compose installieren
- Projekte und Zugriffsschlüssel konfigurieren
- LLM-Aufrufe über SDKs instrumentieren
- Traces, Spans und Sessions untersuchen
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
09:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - mit klarem Alltagsbezug und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine & Buchung
Leider haben wir aktuell keine Termine geplant. Es wird wahrscheinlich bei uns etwas schief gelaufen sein - bitte kontaktiere uns und wir finden den passenden Termin.
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Wie die Planung abläuft, was ein Zuschnitt kostet und welche Themen wir abdecken, steht auf unserer Seite zu Inhouse Schulungen im Bereich MLOps.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu Langfuse Schulung: LLM-Systeme messbar betreiben
Was ist Langfuse und wofür wird es eingesetzt?
Langfuse ist eine Open-Source-Plattform für die Beobachtung und Bewertung generativer KI-Anwendungen. Sie erfasst Modellaufrufe als Traces mit einzelnen Spans und verknüpft sie mit Sessions, Kosten und Latenzen. Teams nutzen diese Daten, um RAG-Abläufe zu untersuchen, Prompts zu vergleichen und Qualitätswerte über Releases hinweg zu verfolgen.
Was ist der Unterschied zwischen LLM-Tracing und Evaluation?
Tracing zeigt den Ablauf einer einzelnen Anfrage, Evaluation bewertet deren Ergebnis anhand festgelegter Kriterien. Langfuse verbindet beide Perspektiven, sodass ein Qualitätswert bis zu den beteiligten Prompts, Modellaufrufen und RAG-Schritten zurückverfolgt wird.
Wie funktioniert LLM-as-a-Judge?
LLM-as-a-Judge nutzt ein Sprachmodell, um Antworten anhand einer Bewertungsrubrik zu prüfen. Geeignete Kriterien sind zum Beispiel Quellenbezug oder Aufgabenerfüllung. Stichproben mit menschlicher Bewertung dienen dazu, die automatischen Scores zu kalibrieren.
Kann Langfuse datenschutzgerecht betrieben werden?
Self-Hosting hält Telemetriedaten in der eigenen Infrastruktur und unterstützt damit vorgegebene Datenflüsse. Datenschutz entsteht durch die Auswahl erfasster Felder, rollenbasierte Zugriffe und festgelegte Aufbewahrungsfristen. Diese Maßnahmen werden im Training umgesetzt.
Wird das Training an unseren Technik-Stack angepasst?
Ja. Für ein Inhouse- oder Firmenseminar stimmt cmt die Übungen auf Anfrage mit eurem LLM-Framework, der vorhandenen Kubernetes-Umgebung und euren Evaluationsanforderungen ab.
Gibt es ein Zertifikat als Teilnahme-Nachweis?
Eine offizielle Langfuse-Zertifizierung ist nicht Bestandteil dieser Schulung. Welchen cmt-Teilnahmenachweis du für interne Qualifikationsakten erhältst, klärt das Team vor der Buchung auf Anfrage.
Brauche ich eine Langfuse-Lizenz oder einen Laptop?
Eigene Lizenzen oder ein eigener Rechner werden für die Übungen nicht benötigt. cmt stellt die erforderliche Software, Geräte und vorbereiteten Übungsumgebungen bereit.
Wie viel Raum gibt es für eigene technische Fragen?
Maximal acht Personen nehmen an einer Seminargruppe teil. Dadurch kann der Trainer technische Fragen aufgreifen und bei Instrumentierung, Deployment oder Evaluation direkt unterstützen.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs.
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
