Von Prompt Injection bis Model Theft: Schutzmaßnahmen, Tests und Governance für produktive KI-Systeme.
Alle Kurse anzeigen
Wir bieten die Kurse auch als Inhouse oder Firmenseminar an - vor Ort oder Live-Online.
Wir arbeiten direkt an euren eigenen Themen - effizient und praxisnah.
Wir helfen dir kurz weiter und empfehlen dir das passende Training.
Wir erstellen dir gern ein individuelles Trainingsangebot.
Keine Schulungen gefunden
Bitte passe deine Filter an.
KI Sicherheit umfasst mehr als „sichere Prompts“. Sobald LLMs, RAG-Systeme oder KI-Agenten produktiv gehen, entstehen neue Angriffsflachen: Prompt Injection und Jailbreaks, Datenabfluss uber Retrieval, unsichere Tool-Aufrufe, Model Theft, Supply-Chain-Risiken in Modellen und Abhangigkeiten sowie Manipulation von Trainings- und Feedbackdaten (Data Poisoning).
In diesen Kursen lernen Sie, KI-Anwendungen wie klassische Systeme zu behandeln: Bedrohungsmodellierung, Security-by-Design, sichere Architektur fur RAG und Agenten, Härtung von Schnittstellen, Secrets-Handling, Logging und Monitoring. Sie uben praxisnah Red-Teaming fur LLMs, entwickeln Testkataloge (z.B. fur Prompt Injection, Sensitive Data Exposure, Hallucination-Risiken) und definieren klare Schutzmaßnahmen: Input/Output-Filter, Policy-Enforcement, Sandboxen fur Tools, Least Privilege, Rate Limits und sichere Deployment-Patterns.
Ein weiterer Schwerpunkt ist Governance und Compliance: Risikoanalysen, Dokumentation, Verantwortlichkeiten, Lieferantenbewertung und der Aufbau eines wiederholbaren KI-Sicherheitsprozesses, der mit DevSecOps und bestehenden ISMS-Strukturen zusammenarbeitet.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs .
Wer KI in Produkte, Prozesse oder Kundenkontakt integriert, braucht KI Sicherheit als festen Bestandteil von Architektur, Betrieb und Governance. LLMs, RAG (Retrieval-Augmented Generation) und KI-Agenten erweitern die Angriffsoberflache: Prompts werden zu Eingaben mit Sicherheitsrelevanz, Retrieval verbindet Modelle mit internen Datenquellen, und Agenten fuhren Aktionen uber Tools und APIs aus. Genau hier entstehen reale Risiken wie Prompt Injection, Jailbreaks, Datenabfluss uber Kontextfenster, unautorisierte Tool-Aufrufe, Model Theft oder Manipulation durch Data Poisoning.
Eine Weiterbildung in KI Sicherheit vermittelt Methoden, um diese Risiken nicht nur zu beschreiben, sondern nachweisbar zu beherrschen. Dazu gehoren Threat Modeling fur KI-Workloads, sichere RAG-Architekturen (z.B. Zugriffskontrollen, Dokumentenklassifizierung, Kontextbegrenzung), Guardrails und Policy-Enforcement, sowie Red-Teaming und Security Testing speziell fur LLM-Ausgaben. Praktisch relevant sind auch Monitoring und Incident Response: Welche Signale deuten auf Prompt-Angriffe hin, wie werden Logs datenschutzkonform genutzt, und wie lassen sich Schutzmaßnahmen im laufenden Betrieb iterativ verbessern?
Zusatzlich spielt Governance eine zentrale Rolle: Risiko- und Impact-Assessments, Nachvollziehbarkeit von Entscheidungen, Lieferanten- und Modellbewertung, sichere Nutzung von Open-Source-Komponenten sowie die Einbettung in DevSecOps und ISMS. Diese Kurs-Kategorie richtet sich an Security-Teams, Entwickler, Architekten, Produktverantwortliche und Compliance-Rollen, die KI-Systeme produktiv betreiben wollen, ohne Blindflug bei Sicherheit und Datenabfluss. Ziel ist eine belastbare, prufbare Sicherheitsstrategie fur KI, die Angriffe antizipiert und den Betrieb stabil halt.
