LLM Security: Injections erkennen & abwehren
Prompt-Injection, Datenabfluss und Agentenmissbrauch in LLM-Anwendungen systematisch absichern
Die wichtigsten Themen
OWASP-LLM-Risiken bewerten
Prompt-Injection-Angriffe testen
Jailbreaks und Datenabfluss stoppen
RAG-Systeme gezielt härten
Guardrails wirksam einsetzen
Red-Teaming strukturiert durchführen
Überblick Große Sprachmodelle verändern Unternehmensprozesse, bringen aber Angriffsflächen mit, die klassische AppSec-Kontrollen nur teilweise erfassen. In dieser LLM Security Schulung analysierst du, wie Prompt-Injection,...
Große Sprachmodelle verändern Unternehmensprozesse, bringen aber Angriffsflächen mit, die klassische AppSec-Kontrollen nur teilweise erfassen. In dieser LLM Security Schulung analysierst du, wie Prompt-Injection, Jailbreaking, Indirect Prompt Injection, System-Prompt-Leakage und unsichere Tool-Anbindungen KI-Anwendungen manipulieren. Der Kurs orientiert sich an den aktuellen OWASP Top 10 for LLM Applications und zeigt, wie Risiken wie Sensitive Information Disclosure, Excessive Agency, Vector- und Embedding-Weaknesses sowie Unbounded Consumption in realen Integrationen entstehen.
Im Training arbeitest du nicht nur mit Konzepten, sondern führst Angriffe in einer geschützten Laborumgebung selbst durch. Red-Teaming-Übungen machen sichtbar, wie präparierte Prompts, manipulierte Dokumente, externe Websites oder RAG-Datenquellen Unternehmensdaten gefährden. Anschließend implementierst du Schutzmaßnahmen wie Eingabevalidierung, Output-Filter, Guardrails, Prompt-Härtung, Berechtigungskonzepte, Rate Limiting und Monitoring. Wer tiefer in Retrieval Augmented Generation einsteigen möchte, findet im Large Language Models Aufbaukurs zu RAG, Anpassung und Training eine passende Ergänzung. Für rechtliche und organisatorische Fragestellungen rund um KI-Anwendungen passen außerdem KI Chatbots, Datenschutz, Urheberrecht und Haftung sowie die EU AI Act Schulung für Mitarbeitende im KI-Umfeld.
Nach dem Seminar verfügst du über einen belastbaren Werkzeugkasten, um LLM Prompt Injection Sicherheit in Entwicklungs-, Test- und Betriebsprozesse zu integrieren. So lassen sich KI-Integrationen kontrolliert prüfen, absichern und mit klaren Sicherheitsanforderungen produktiv betreiben.
Die Themen LLM-Architektur aus Sicherheitsperspektive · Transformer, Tokenizer und Context Window · AppSec-Unterschiede bei LLM-Anwendungen · OWASP Top 10 for LLM Applications · LLM-Lifecycle und kritische Kontrollpunkte...
LLM-Security-Grundlagen und OWASP-Risiken
- LLM-Architektur aus Sicherheitsperspektive
- Transformer, Tokenizer und Context Window
- AppSec-Unterschiede bei LLM-Anwendungen
- OWASP Top 10 for LLM Applications
- LLM-Lifecycle und kritische Kontrollpunkte
Prompt-Injection und Jailbreaking
- Direkte Prompt-Injection-Angriffe
- Jailbreaking gegen Sicherheitsrichtlinien
- Obfuscation und Payload-Varianten
- Automatisierte Tests gegen LLM-APIs
- Token-Manipulation und Prompt-Smuggling
Indirect Prompt Injection und RAG-Security
- Manipulierte externe Datenquellen
- Versteckte Instruktionen in Dokumenten
- RAG-Manipulation über Retrieval-Kontext
- Vector- und Embedding-Weaknesses
- Datenexfiltration durch Prompt-Hacking
Guardrails und Defense-in-Depth
- Input-Validierung und Output-Filter
- System-Prompt-Härtung
- Guardrails und Policy-Enforcement
- Erkennung adversarialer Eingaben
- Isolation von Tools und Berechtigungen
Sicherer Betrieb und Governance
- Monitoring von LLM-Interaktionen
- Logging sicherheitsrelevanter Ereignisse
- Rate Limiting gegen Unbounded Consumption
- Kontrollierte Agenten- und Tool-Nutzung
- Interne Red-Teaming-Strategie
Zielgruppe
- IT-Sicherheitsbeauftragte, Security-Analystinnen und Security-Analysten sowie Penetration Testerinnen und Tester
- Softwareentwicklerinnen und Softwareentwickler, AI-Engineers und Data Scientists mit LLM-Anwendungen
- DevSecOps-Ingenieurinnen und DevSecOps-Ingenieure mit Verantwortung für KI-Integrationen und API-Sicherheit
- Architektinnen und Architekten, die RAG-Systeme, Chatbots oder Agenten gegen Manipulation absichern
Das lernst du
- Sicheres Erkennen von Prompt-Injection, Jailbreaking und Indirect Prompt Injection in LLM-Anwendungen
- Eigenständige Durchführung strukturierter Red-Teaming-Tests in kontrollierten Laborumgebungen
- Bewertung von OWASP-LLM-Risiken für RAG-Systeme, Chatbots, Agenten und API-Integrationen
- Implementierung wirksamer Schutzmaßnahmen mit Guardrails, Filtern, Validierung und Rate Limiting
- Aufbau nachvollziehbarer Betriebs- und Monitoring-Konzepte für sichere KI-Anwendungen
So arbeiten wir
- Kurze Theorieblöcke zu Angriffsklassen, OWASP-Risiken und Architekturmustern
- Hands-on Labs mit präparierten LLM-Anwendungen in einer geschützten Umgebung
- Red-Teaming-Übungen mit Prompt-Injection, Jailbreaking und RAG-Manipulation
- Gemeinsame Implementierung von Guardrails, Filtern und Validierungsschichten
- Analyse der Testergebnisse mit Ableitung konkreter Härtungsmaßnahmen
Empfohlene Vorkenntnisse
- Grundkenntnisse in Python und sicherer Umgang mit Entwicklungsumgebungen
- Grundverständnis von LLMs, Prompts, Tokens und Context Window
- Erfahrung mit REST-APIs, JSON und Web-Anwendungen ist hilfreich
- Bei fehlenden Python-Grundlagen empfiehlt sich vorab der Python Machine Learning Grundkurs
Dein Fahrplan
Der erste Seminartag behandelt die offensive Perspektive auf LLM-Anwendungen. Die Teilnehmerinnen und Teilnehmer analysieren typische Angriffsflächen, ordnen diese den OWASP-LLM-Risiken zu und testen Manipulationstechniken in einer geschützten Laborumgebung.
- Einordnung von LLM-Security und OWASP-Risiken
- Direkte Prompt-Injection und Jailbreaking
- System-Prompt-Leakage und Datenexfiltration
- Indirect Prompt Injection über externe Inhalte
- RAG-Manipulation und Vector-Weaknesses
- Dokumentation und Bewertung der Findings
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
09:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - praxisnah und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine & Buchung
Vor Ort
Online
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu LLM Security: Injections erkennen & abwehren
Benötige ich eigene Hardware oder GPU-Zugriff?
Nein. Für die Übungen werden die notwendigen Laborumgebungen, vorbereiteten Anwendungen und API-Zugriffe bereitgestellt. Eigene GPU-Hardware ist nicht erforderlich.
Geht es in der Schulung darum, öffentliche Chatbots zu hacken?
Nein. Die Übungen finden in kontrollierten Umgebungen mit vorbereiteten LLM-Anwendungen statt. Ziel ist, Angriffsmuster zu verstehen und eigene KI-Integrationen gegen Manipulation, Datenabfluss und unsichere Tool-Nutzung abzusichern.
Welche Rolle spielen die OWASP Top 10 for LLM Applications?
Die OWASP Top 10 dienen als fachlicher Rahmen für die Risikoanalyse. Im Seminar werden zentrale Risiken wie Prompt Injection, Sensitive Information Disclosure, Excessive Agency, System-Prompt-Leakage, Vector-Weaknesses und Unbounded Consumption auf konkrete Anwendungen übertragen.
Ist das Training für Entwicklerinnen und Entwickler oder für Security-Teams gedacht?
Beide Gruppen profitieren vom Seminar. Entwicklerinnen und Entwickler lernen sichere Architektur- und Implementierungsmuster kennen, während Security-Teams strukturierte Prüfmethoden, Red-Teaming-Ansätze und wirksame Gegenmaßnahmen für LLM-Anwendungen trainieren.
Werden auch RAG-Systeme und Indirect Prompt Injection behandelt?
Ja. Ein wichtiger Schwerpunkt liegt auf Angriffen über externe Datenquellen, Dokumente, Websites und Retrieval-Kontexte. Dabei wird gezeigt, wie RAG-Systeme manipuliert werden und welche Schutzmaßnahmen bei Chunking, Retrieval, Prompt-Aufbau und Output-Verarbeitung greifen.
Wie lässt sich LLM Security organisatorisch verankern?
Das Seminar behandelt neben technischen Kontrollen auch Monitoring, Logging, Verantwortlichkeiten und interne Red-Teaming-Prozesse. Für eine weiterführende Governance-Perspektive passt das Seminar Risikomanagement für KI-Systeme.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs .
Passende Schulungen nach dem Kurs
Ähnliche Kurse
Defensive KI: IT-Infrastruktur wirklich absichern
Shadow AI stoppen: KI-Nutzung sicher steuern
KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT & Co.
KI-Sicherheit in der Cloud Grundkurs
Monitoring von KI-Agenten: Kontrolle & Sicherheit
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
