KI-gestützte Security Automation
AI Red Teaming für Rüstungs- und Defense-Systeme
Angriffswege auf KI realistisch testen, Abwehr wirksam nachweisen, Risiken auditierbar dokumentieren
- Dauer
- 2 Tage
- Format
- Präsenz oder Live-Online
- Preis
- 1.490 € netto
- Uhrzeiten
- 9:00-16:00 Uhr
- Gruppe
- max. 8 Personen
- Niveau
- Aufbau
- Kursnummer
- KKC_0304
Aktuelle Termine und Online-Buchung: www.cmt.de/j/KKC_0304
AI Red Teaming für Rüstungs- und Defense-Systeme
Angriffswege auf KI realistisch testen, Abwehr wirksam nachweisen, Risiken auditierbar dokumentieren
Die wichtigsten Themen
Threat Modeling nach Mission Impact
Prompt Injection und RAG testen
Evasion und Poisoning bewerten
Supply-Chain-Backdoors erkennen
Guardrails wirksam nachweisen
Drift und Abuse überwachen
Überblick In dieser AI Red Teaming Schulung lernst du, KI-Systeme im Rüstungs- und Defense-Umfeld realistisch zu prüfen und die Wirksamkeit von Schutzmaßnahmen belastbar nachzuweisen. Der Schwerpunkt liegt auf Angriffsmustern...
In dieser AI Red Teaming Schulung lernst du, KI-Systeme im Rüstungs- und Defense-Umfeld realistisch zu prüfen und die Wirksamkeit von Schutzmaßnahmen belastbar nachzuweisen. Der Schwerpunkt liegt auf Angriffsmustern gegen Computer Vision, Sensorik-Pipelines, LLM-Anwendungen, RAG-Systeme und Tool-Use-Szenarien. Statt nur Modellgüte zu betrachten, bewertest du Mission Impact, definierst Abnahmekriterien und baust ein nachvollziehbares Sicherheitsargument für Audits, Freigaben und technische Reviews auf.
Das Seminar verbindet LLM-Security und Prompt-Injection-Abwehr mit Adversarial ML, Supply-Chain-Risiken, Logging, Monitoring und sicheren Betriebsmodellen wie On-Prem oder Air-Gap. Für Governance-Fragen werden Bezüge zu EU AI Act Anforderungen im KI-Umfeld und Risikomanagement für KI-Systeme hergestellt, ohne klassifizierte Informationen offenzulegen. Ergebnis ist ein umsetzbarer Ansatz, um Red-Team-Testfälle zu planen, Findings zu priorisieren, Adversarial-Defense-Maßnahmen abzuleiten und die Resilienz kritischer KI-Systeme messbar zu erhöhen.
Die Themen Assets, Trust Boundaries und Rollen · Angriffsflächen in KI-Systemketten · Mission Impact statt Modellmetriken · Red-Team-Ziele und Abnahmekriterien · Evasion gegen Vision-Modelle · Sensorik-nahe adversariale Eingaben...
Bedrohungsmodell und Defense-Scoping
- Assets, Trust Boundaries und Rollen
- Angriffsflächen in KI-Systemketten
- Mission Impact statt Modellmetriken
- Red-Team-Ziele und Abnahmekriterien
Adversarial ML für Vision und Sensorik
- Evasion gegen Vision-Modelle
- Sensorik-nahe adversariale Eingaben
- Poisoning in Trainingsdaten
- Feedback-Kanäle und Datenqualität
- Model Inversion und Membership Inference
LLM-, RAG- und Tool-Use-Risiken
- Direkte und indirekte Prompt Injection
- RAG-Angriffe über Dokumente
- Jailbreaks und Mehrsprachigkeit
- System-Prompt-Leakage und Datenabfluss
- Excessive Agency bei Tool-Use
- Halluzinationen als Sicherheitsrisiko
Supply Chain und Integrationssicherheit
- Third-Party-Modelle und Updates
- Model Registry und Freigaben
- Frameworks, Container und GPU-Stacks
- Backdoors und Model Trojaning
- Vector- und Embedding-Schwächen
Defense Engineering und Wirksamkeitsnachweis
- Input Sanitization und Robustness Checks
- Guardrails und Policy Enforcement
- Output Filtering und Zugriffskontrollen
- Drift-, Abuse- und Anomalie-Monitoring
- Severity Scoring und Evidenzführung
- Risk Register und Maßnahmenplan
Zielgruppe
- Security Engineers und Cybersecurity-Verantwortliche in Defense-Organisationen
- KI- und ML-Engineers für kritische Modelle, Sensorik-Pipelines und LLM-Anwendungen
- Systemarchitektinnen und Integrationsverantwortliche für APIs, Datenflüsse und Betriebsumgebungen
- GRC-, Risk- und Compliance-Funktionen mit Prüfaufträgen zu KI-Risiken
Das lernst du
- KI-spezifische Bedrohungsmodelle mit Mission Impact und klaren Trust Boundaries erstellen
- Reproduzierbare Red-Team-Testfälle für ML-, LLM-, RAG- und Tool-Use-Systeme entwerfen
- Angriffsergebnisse mit Severity, Evidenz und Abnahmekriterien auditierbar dokumentieren
- Adversarial-Defense-Maßnahmen priorisieren und deren Wirksamkeit messbar nachweisen
- Monitoring-, Logging- und Betriebsmodelle für kritische KI-Systeme planen
So arbeiten wir
- Fachliche Impulse mit direkter Anwendung in geführten Übungen
- Fallarbeit zu Vision, Sensorik, LLM-Anwendungen und RAG-Systemen
- Workshops zu Threat Modeling, Testdesign und Maßnahmenplanung
- Vorlagen für Testfälle, Risk Register, Findings und Abnahmekriterien
- Gemeinsame Auswertung mit Severity Scoring und Nachweislogik
Empfohlene Vorkenntnisse
- Grundverständnis von IT-Security und gängigen Bedrohungsmodellen
- Basiswissen zu ML-, LLM- und Systemintegrationskonzepten
- Erfahrung mit Sicherheitsanalysen, Architektur-Reviews oder technischen Audits ist hilfreich
- Für die LLM-spezifische Vorbereitung empfiehlt sich das Training LLM Security: Injections erkennen & abwehren
- Keine Nutzung eigener klassifizierter Daten oder sensibler Projektdokumente erforderlich
LLM Security: Injections erkennen & abwehren
KI-gestützte Signalanalyse (ELINT/SIGINT): Grundkurs
KI, Ethik & Compliance: Verantwortungsvoller Einsatz in Unternehmen und Behörden
EU AI Act: Was Mitarbeitende jetzt wissen und beachten müssen
Dein Fahrplan
Der erste Seminartag legt die Grundlage für belastbares AI Red Teaming im Defense-Kontext. Behandelt werden Assets, Trust Boundaries, Mission Impact, relevante Rollen, Angriffsflächen und die Priorisierung von Red-Team-Zielen. Anschließend folgen Adversarial-ML-Angriffe wie Evasion, Poisoning, Model Inversion und Membership Inference sowie reproduzierbares Testdesign für Vision-, Sensorik- und Datenpipeline-Szenarien.
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
9:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - mit klarem Alltagsbezug und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine und Preise
| Zeitraum | Ort | Preis (netto) |
|---|---|---|
| 07.01. - 08.01.2027 | München oder Live-Online | 1.490 € |
| 11.03. - 12.03.2027 | München oder Live-Online | 1.490 € |
| 13.05. - 14.05.2027 | München oder Live-Online | 1.490 € |
| 15.07. - 16.07.2027 | München oder Live-Online | 1.490 € |
| 02.09. - 03.09.2027 | München oder Live-Online | 1.490 € |
| 21.10. - 22.10.2027 | München oder Live-Online | 1.490 € |
Alle Preise zuzüglich gesetzlicher Mehrwertsteuer. Freie Plätze und weitere Termine findest du unter www.cmt.de/j/KKC_0304.
Firmenschulung und Inhouse
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine stimmen wir mit euch ab.
Dein Kontakt bei cmt
Michaela Berger
Telefon 0800 71 20000
michaela.berger@cmt.de
Termine & Buchung
Vor Ort
Online
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Wie die Planung abläuft, was ein Zuschnitt kostet und welche Themen wir abdecken, steht auf unserer Seite zu Inhouse Schulungen im Bereich KI-gestützte Security Automation.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu AI Red Teaming für Rüstungs- und Defense-Systeme
Arbeitet ihr mit echten Rüstungsdaten oder klassifizierten Informationen?
Nein. Übungen basieren auf neutralen, bereitgestellten Beispielen und Methoden. Du überträgst Prinzipien, Testdesigns und Bewertungslogik auf deine Umgebung, ohne sensible Daten offenzulegen.
Geht es in der Schulung nur um LLMs?
Nein. LLM-Red-Teaming ist ein wichtiger Schwerpunkt, zusätzlich behandelt das Seminar Adversarial ML für Vision- und sensornahe Workflows sowie Supply-Chain-, Integrations- und Betriebsrisiken. Für eine stärkere Vertiefung einzelner LLM-Angriffsarten passt ergänzend LLM Security: Injections erkennen & abwehren.
Brauche ich eigene Hardware oder Lizenzen?
Nein. Geräte, VMs und Software werden, falls erforderlich, zur Verfügung gestellt. Eigene Systeme oder vertrauliche Projektdaten sind für die Übungen nicht notwendig.
Ist der Kurs eher offensiv oder defensiv ausgerichtet?
Beides, mit klarer defensiver Zielrichtung: Angriffe dienen dazu, Risiken sichtbar zu machen, Abwehrmaßnahmen zu priorisieren und deren Wirksamkeit nachweisbar zu belegen. Als Anschluss eignet sich Defensive KI: IT-Infrastruktur wirklich absichern.
Welche konkreten Ergebnisse entstehen im Seminar?
Im Seminar entstehen wiederverwendbare Strukturen für Threat Models, Red-Team-Testfälle, Severity-Bewertungen, Risk Register und Maßnahmenpläne. Dadurch wird aus einzelnen Angriffstests ein auditierbarer Prüf- und Verbesserungsprozess.
Spielt der EU AI Act für Defense-Systeme eine Rolle?
Das Seminar behandelt Governance und Compliance risikoorientiert. Ausschließlich militärische oder Defense-spezifische Systeme sind anders einzuordnen als zivile, Dual-Use- oder behördliche KI-Anwendungen. Für eine rechtliche Grundlagenschulung eignet sich EU AI Act: Was Mitarbeitende jetzt wissen und beachten müssen.
Für wen ist das Training besonders relevant?
Das Training richtet sich an Security-, KI-, Architektur- und GRC-Rollen, die KI-Risiken in kritischen Systemen technisch bewerten und nachvollziehbar dokumentieren müssen. Für Governance-Fragen bietet KI, Ethik & Compliance eine passende Ergänzung.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs.
Passende Schulungen nach dem Kurs
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
