MLOps & Model Deployment
Erklärbare KI: Warum entscheidet die KI so?
XAI-Checks für ML-Modelle entwickeln, Erklärungen prüfen und auditfähig dokumentieren
- Dauer
- 2 Tage
- Format
- Präsenz oder Live-Online
- Preis
- 850 € netto
- Uhrzeiten
- 9:00-16:00 Uhr
- Gruppe
- max. 8 Personen
- Niveau
- Grundlagen
- Kursnummer
- KKC_0105
Aktuelle Termine und Online-Buchung: www.cmt.de/seminare/erklaerbare-ki
Erklärbare KI: Warum entscheidet die KI so?
XAI-Checks für ML-Modelle entwickeln, Erklärungen prüfen und auditfähig dokumentieren
Die wichtigsten Themen
SHAP-Erklärungen belastbar prüfen
PDP und ICE sicher einordnen
Counterfactuals fachlich ableiten
Sanity Checks für XAI-Methoden
Bias-Quellen systematisch bewerten
Auditfähige XAI-Dokumentation
Überblick In dieser Erklärbare-KI-Schulung lernst du, wie du Entscheidungen von Machine-Learning-Modellen nachvollziehbar prüfst, belastbar dokumentierst und in Review- oder Audit-Situationen überzeugend erklärst. Der...
In dieser Erklärbare-KI-Schulung lernst du, wie du Entscheidungen von Machine-Learning-Modellen nachvollziehbar prüfst, belastbar dokumentierst und in Review- oder Audit-Situationen überzeugend erklärst. Der Schwerpunkt liegt nicht darauf, einzelne XAI-Visualisierungen zu erzeugen, sondern ihre Aussagekraft kritisch zu bewerten: Welche Erklärung ist global, welche lokal? Wann führen Korrelationen, Proxy-Features oder instabile Daten-Splits zu trügerischen Interpretationen? Und wie leitest du daraus konkrete Akzeptanzkriterien für produktive ML-Systeme ab?
Du arbeitest mit SHAP, PDP, ICE, Counterfactuals, Sanity Checks sowie Sensitivitätstests für Text-, Bild- und LLM-Anwendungen. Dabei verknüpfst du Erklärbarkeit mit Fairness, Bias-Analysen, Monitoring und nachvollziehbarer Dokumentation. Das Seminar eignet sich besonders für Rollen, die KI-Modelle entwickeln, validieren, abnehmen oder gegenüber Fachbereichen, Risiko-Teams und Management vertreten. Wenn du noch eine breitere Grundlage suchst, passt vorher die Data-Science-und-Machine-Learning-Einführung; für den Betrieb von Modellen ist anschließend MLOps auf Azure eine sinnvolle Vertiefung.
Die Themen Erklärbarkeit, Interpretierbarkeit und Transparenz · Use Cases aus Kredit, HR und Medizin · Industrie-, Marketing- und Risiko-Szenarien · Korrelation, Kausalität und Proxy-Features...
Grundlagen und Grenzen erklärbarer KI
- Erklärbarkeit, Interpretierbarkeit und Transparenz
- Use Cases aus Kredit, HR und Medizin
- Industrie-, Marketing- und Risiko-Szenarien
- Korrelation, Kausalität und Proxy-Features
- Erwartungen von Fachbereichen und Audits
XAI-Methoden für tabellarische Modelle
- Globale und lokale Erklärungen
- Feature Importance richtig einordnen
- PDP und ICE interpretieren
- SHAP-Grundprinzip und Abhängigkeiten
- Monotonic Constraints für Modellverständlichkeit
Erklärungen für Text-, Bild- und LLM-Anwendungen
- Grenzen von Attention-Erklärungen
- Saliency und Integrated Gradients
- Occlusion Tests für Bildmodelle
- Prompt-Sensitivität bei LLM-Anwendungen
- Input-Varianten und Ergebnisstabilität
Robustheit und Plausibilisierung von Erklärungen
- Stabilität über Seeds und Splits
- Erklärungen bei Daten-Drift
- Randomization- und Permutation-Checks
- Ablation Tests zur Gegenprüfung
- Counterfactuals als Handlungsoption
Fairness, Bias und Compliance
- Bias-Quellen in Daten und Labels
- Feedback-Loops in produktiven Systemen
- Fairness-Metriken und Trade-offs
- Equalized Odds und Modellbewertung
- Model Cards und Data Sheets
XAI im produktiven ML-Prozess
- XAI-Akzeptanzkriterien und Schwellenwerte
- Monitoring von Explanation-Drift
- Audit-Trails für Modellentscheidungen
- Erklärungen für Risiko und Legal
- Kommunikation mit Fachbereichen
Zielgruppe
- Data Scientists, Machine-Learning Engineers und Analytics Engineers, die XAI-Methoden in Modellbewertung und ML-Pipelines integrieren
- AI Product Owner, Analytics Leads und Projektleitungen, die KI-Entscheidungen fachlich abnehmen oder priorisieren
- Risk-, Compliance-, Internal-Audit- und Model-Validation-Teams, die Erklärungen prüfen, dokumentieren und bewerten
- Fachbereichsverantwortliche in regulierten oder entscheidungsintensiven Prozessen, etwa Kredit, HR, Medizin, Industrie oder Marketing
Das lernst du
- Passende XAI-Methoden für tabellarische, Text- und Bildmodelle auswählen und fachlich begründen
- SHAP, PDP, ICE und Counterfactuals belastbar interpretieren und typische Fehlinterpretationen vermeiden
- Stabilität von Erklärungen über Seeds, Splits, Daten-Drift und Sensitivitätstests prüfen
- XAI-Akzeptanzkriterien, Schwellenwerte und Monitoring-Checks für produktive ML-Systeme ableiten
- Bias-Quellen, Fairness-Trade-offs und Dokumentationsanforderungen in die Modellbewertung einbeziehen
- Ergebnisse so aufbereiten, dass Fachbereiche, Risiko-Teams und Audits sie nachvollziehen
So arbeiten wir
- Fachlicher Input zu XAI-Konzepten, Grenzen und typischen Audit-Anforderungen
- Geführte Übungen mit SHAP, PDP, ICE, Counterfactuals und Sanity Checks
- Fallanalysen aus entscheidungsintensiven Anwendungsbereichen wie Kredit, HR, Medizin, Industrie und Marketing
- Review-Simulationen zur Prüfung von Erklärungen, Akzeptanzkriterien und Dokumentation
- Diskussion von Zielkonflikten zwischen Performance, Fairness, Erklärbarkeit und Betrieb
Empfohlene Vorkenntnisse
- Grundverständnis von Machine Learning, etwa Train-Test-Split, Features und Modellmetriken
- Erste Erfahrung mit tabellarischen Modellen oder Modellbewertung hilfreich
- Für den Einstieg ohne Vorwissen empfiehlt sich die Einführung in Data Science und Machine Learning
- Für praktische Modellarbeit mit Python passt ergänzend der Python Machine Learning Grundkurs
Dein Fahrplan
Der erste Tag schafft die fachliche Basis für erklärbare KI. Behandelt werden die Abgrenzung von Erklärbarkeit, Interpretierbarkeit und Transparenz, typische Entscheidungs- und Audit-Situationen sowie Grenzen durch Korrelation, Kausalität und Proxy-Features.
Darauf aufbauend werden globale und lokale Erklärungen für tabellarische Modelle untersucht. Feature Importance, PDP, ICE und SHAP werden interpretiert, plausibilisiert und auf typische Fallstricke geprüft. Monotonic Constraints und verständliche Modellstrukturen zeigen, wie Erklärbarkeit bereits beim Modelldesign berücksichtigt wird.
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
9:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - mit klarem Alltagsbezug und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine und Preise
| Zeitraum | Ort | Preis (netto) |
|---|---|---|
| 11.01. - 12.01.2027 | München oder Live-Online | 850 € |
| 08.03. - 09.03.2027 | München oder Live-Online | 850 € |
| 10.05. - 11.05.2027 | München oder Live-Online | 850 € |
| 12.07. - 13.07.2027 | München oder Live-Online | 850 € |
| 27.09. - 28.09.2027 | München oder Live-Online | 850 € |
Alle Preise zuzüglich gesetzlicher Mehrwertsteuer. Freie Plätze und weitere Termine findest du unter www.cmt.de/seminare/erklaerbare-ki.
Firmenschulung und Inhouse
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine stimmen wir mit euch ab.
Dein Kontakt bei cmt
Yves Hoppe
Telefon 0800 71 20000
yves.hoppe@cmt.de
Termine & Buchung
Vor Ort
Online
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Wie die Planung abläuft, was ein Zuschnitt kostet und welche Themen wir abdecken, steht auf unserer Seite zu Inhouse Schulungen im Bereich MLOps.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu Erklärbare KI: Warum entscheidet die KI so?
Was bedeutet erklärbare KI im Machine Learning?
Erklärbare KI beschreibt Methoden, mit denen Modellentscheidungen nachvollziehbar gemacht werden. Im Seminar unterscheidest du Erklärbarkeit, Interpretierbarkeit und Transparenz und lernst, warum eine plausible Visualisierung noch keine belastbare Erklärung ist.
Geht es in der Schulung nur um SHAP?
Nein. SHAP ist ein wichtiger Baustein, wird aber zusammen mit Feature Importance, PDP, ICE, Counterfactuals, Sanity Checks und Methoden für Text- und Bildmodelle betrachtet. Entscheidend ist, welche Methode zur Fragestellung, zum Modelltyp und zur Audit-Situation passt.
Brauche ich Programmierkenntnisse für das Seminar?
Tiefe Programmierkenntnisse sind nicht erforderlich. Ein Grundverständnis von Machine-Learning-Begriffen wie Features, Train-Test-Split und Modellmetriken reicht aus. Erfahrung mit tabellarischen Modellen erleichtert die Einordnung der Beispiele.
Welche Rolle spielen Fairness und Bias in erklärbarer KI?
XAI hilft, problematische Muster in Daten, Labels oder Modellverhalten sichtbar zu machen. Im Seminar prüfst du Bias-Quellen, Fairness-Metriken und Trade-offs und lernst, wie diese Ergebnisse in Modellbewertung und Dokumentation einfließen.
Kann ich XAI-Methoden auf LLM-Anwendungen übertragen?
Ja, mit klaren Grenzen. Du lernst Sensitivitätsansätze für Prompt- und Input-Varianten, ordnest Attention kritisch ein und prüfst, wie robust Erklärungen bei veränderten Eingaben bleiben. Für eine Vertiefung der Bewertung von LLM-Systemen passt anschließend LLM-Evaluation.
Wie hilft das Seminar bei Audits und Modellvalidierung?
Du lernst, Erklärungen nicht nur zu erzeugen, sondern als Nachweis in Reviews, Risiko-Bewertungen und Audit-Trails aufzubereiten. Dazu gehören Akzeptanzkriterien, Schwellenwerte, Model Cards, Data Sheets und die nachvollziehbare Kommunikation an Fachbereiche.
Wie wird XAI in produktive ML-Prozesse integriert?
Das Seminar behandelt XAI als Bestandteil von Qualitätssicherung und Betrieb: von Akzeptanzkriterien über Monitoring bis zu Explanation-Drift. Für den technischen Rollout produktiver Modelle ist MLOps auf Azure eine passende weiterführende Schulung.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs.
Passende Schulungen nach dem Kurs
Ähnliche Kurse
Kimi K3.1: OpenSource LLM sofort produktiv
Open-Source-LLMs lokal betreiben: Grundkurs
Mistral-KI Training: Europas LLM-Stack im Einsatz
Qwen 3.8 Training: Lokaler und API-Betrieb
KI-Infrastrukturplanung: On-Premise vs. Cloud
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
