KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT & Co.
Erkenne, härte und untersuche KI-gestützte Angriffe auf LLMs, RAG-Systeme und Agenten
Die wichtigsten Themen
WormGPT-TTPs einordnen
Prompt-Injection abwehren
RAG-Quellen härten
Detection-Regeln bauen
SOC-Playbooks entwickeln
Secrets und Tokens schützen
Überblick Bösartige KI-Systeme wie WormGPT und FraudGPT senken die Hürden für Phishing, Betrug und zielgerichtete Angriffe drastisch. In diesem Expert-Seminar lernst du, wie KI-gestützte Angriffsketten funktionieren, welche...
Bösartige KI-Systeme wie WormGPT und FraudGPT senken die Hürden für Phishing, Betrug und zielgerichtete Angriffe drastisch. In diesem Expert-Seminar lernst du, wie KI-gestützte Angriffsketten funktionieren, welche Spuren sie in E-Mail, Identitätsdiensten, Endpunkten und GenAI-Anwendungen hinterlassen und wie daraus belastbare Detection- und Response-Playbooks entstehen.
Du arbeitest an realistischen Szenarien rund um Prompt-Injection, RAG-Missbrauch, Deepfake-gestützte Social-Engineering-Methoden und Model-Abuse. Für eine tiefere technische Spezialisierung auf Angriffe gegen LLM-Anwendungen passt ergänzend die Schulung LLM Security: Injections erkennen & abwehren. Wer besonders Phishing, BEC und Social Engineering vertiefen möchte, findet mit KI-gestützte Phishing-Simulationen eine passende Fortsetzung.
Außerdem entwickelst du konkrete Hardening-Maßnahmen für Chatbots, Agenten und Tool-Integrationen, inklusive Secrets-Schutz, Least-Privilege und Governance. Ergebnis: ein belastbarer Werkzeugkasten, um GenAI-Risiken messbar zu reduzieren, Vorfälle schneller zu erkennen und Untersuchungen sauber zu dokumentieren.
Die Themen WormGPT, FraudGPT und ähnliche Modelle · Fähigkeiten und Grenzen bösartiger LLMs · GenAI-Angriffsketten von Recon bis Exfiltration · TTPs für Phishing, Betrug und BEC · Grenzen klassischer Security-Kontrollen...
Bedrohungsbild bösartiger KI
- WormGPT, FraudGPT und ähnliche Modelle
- Fähigkeiten und Grenzen bösartiger LLMs
- GenAI-Angriffsketten von Recon bis Exfiltration
- TTPs für Phishing, Betrug und BEC
- Grenzen klassischer Security-Kontrollen
Prompt-Injection und Model-Abuse
- Direkte Prompt-Injection in Chatbots
- Indirekte Prompt-Injection über Dateien
- Angriffe auf RAG-Kontexte
- Tool-Abuse bei Agenten
- Plugin- und Action-Risiken
- System-Prompt-Leakage und Datenabfluss
KI-gestütztes Social Engineering
- Business Email Compromise mit LLM-Texten
- Deepfake-Voice-Angriffe und Erkennungsmerkmale
- Pretexting, Smishing und MFA-Fatigue
- Helpdesk-Bypass durch synthetische Identitäten
Detection Engineering für GenAI-Angriffe
- Log-Quellen aus E-Mail und IdP
- EDR-, Proxy- und DLP-Telemetrie
- Chatbot-Telemetrie und Tool-Calls
- Schreibmuster, TTPs und Anomalien
- SOC-Triage und Eskalationspfade
Hardening von LLM- und RAG-Systemen
- Input- und Output-Filter
- Content Policies und Guardrails
- Secrets-Schutz für Token und API-Keys
- Quellenbewertung und Provenance
- Vector- und Embedding-Schwachstellen
- Least-Privilege für Agenten
Incident Response und Governance
- Beweissicherung für Prompts und Kontexte
- Artefakte aus Tool-Aufrufen
- Root-Cause-Analyse im Workflow
- Post-Incident Maßnahmen und Monitoring
- Risikobewertung für GenAI-Use-Cases
- Policy-Design und Lieferkettenprüfung
Zielgruppe
- SOC-Analystinnen und SOC-Analysten sowie Incident Responder mit GenAI-Bezug
- Security Engineers, Detection Engineers und Threat Hunter für KI-gestützte Angriffsketten
- IAM-, E-Mail-, Endpoint- und DLP-Verantwortliche mit Schutzauftrag für GenAI-Nutzung
- Architektinnen und Architekten für LLM-, RAG-, Chatbot- und Agenten-Systeme
Das lernst du
- KI-gestützte Angriffsketten mit WormGPT, FraudGPT und ähnlichen Werkzeugen in TTPs übersetzen und priorisieren
- Schutzmaßnahmen für LLM-, RAG- und Agenten-Systeme mit Guardrails, Secrets-Schutz und Least-Privilege entwerfen
- Detection- und Response-Playbooks für variable KI-Kampagnen aufbauen
- GenAI-relevante Beweise für Incident Response und Forensik sichern, bewerten und dokumentieren
- Governance-, Monitoring- und Hardening-Maßnahmen für produktive GenAI-Use-Cases ableiten
So arbeiten wir
- Kurze fachliche Inputs mit klaren Entscheidungsregeln
- Fallstudien und Szenarioarbeit zu Phishing, Prompt-Injection und RAG-Missbrauch
- Workshops zu Detection-Use-Cases, Playbooks und Hardening-Checklisten
- Gemeinsame Review von Artefakten, Telemetrie und Tool-Call-Spuren
- Transfer auf eigene Security-Prozesse, SOC-Abläufe und GenAI-Architekturen
Empfohlene Vorkenntnisse
- Grundkenntnisse in IT-Security, gängigen Angriffsmethoden und Logging, zum Beispiel E-Mail, IdP und EDR
- Sicherer Umgang mit LLMs; als Vorbereitung eignet sich der ChatGPT Grundkurs: Erfolgreich prompten
- Erste Berührungspunkte mit RAG, Chatbots oder Agenten sind hilfreich, aber nicht zwingend erforderlich
Dein Fahrplan
Der erste Seminartag ordnet bösartige KI-Systeme wie WormGPT und FraudGPT ein und übersetzt typische Angriffsketten in TTPs. Behandelt werden Schutzprioritäten für E-Mail, Identitäten, Endpunkte und GenAI-Anwendungen.
- Einordnung bösartiger LLMs
- Angriffsketten und Schutzprioritäten
- Direkte und indirekte Prompt-Injection
- Tool-Abuse, Plugin- und Action-Risiken
- RAG-Angriffsflächen und Quellenbewertung
- Provenance, Redaction und Freigabeprozesse
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
9:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - praxisnah und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine & Buchung
Vor Ort
Online
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT & Co.
Ist das Seminar eher technisch oder organisatorisch?
Beides, mit klarer technischer Tiefe: Du arbeitest an Angriffspfaden, Telemetrie, Detection-Use-Cases und Hardening. Governance und Policies werden so behandelt, dass sie direkt umsetzbar sind, etwa für Freigabeprozesse, Tool-Nutzung und Datenklassifizierung.
Brauche ich Programmierkenntnisse?
Nein. Du solltest Logs lesen und Security-Kontrollen einordnen. Skripting-Erfahrung hilft bei Detection-Workshops, ist aber keine Voraussetzung.
Geht es nur um WormGPT?
Nein. WormGPT ist ein Beispiel für bösartige KI und die damit verbundene Suchintention rund um wormgpt, wormgpt llm und ähnliche Werkzeuge. Im Seminar geht es um übertragbare Muster für KI-gestütztes Phishing, BEC, Deepfakes sowie Angriffe auf LLM-, RAG- und Agenten-Systeme.
Welche Tools brauche ich mitzubringen?
Keine. Geräte, VMs und Software werden dir, falls erforderlich, zur Verfügung gestellt. Du brauchst kein eigenes Notebook und keine zusätzlichen Lizenzen.
Kann ich das Gelernte auf unsere GenAI-Plattform übertragen?
Ja. Die Inhalte sind plattformneutral und orientieren sich an Architekturmustern, Datenflüssen, Berechtigungen und Telemetrie, die in vielen Unternehmensumgebungen vorhanden sind. Für produktive Agenten-Setups passt anschließend das Seminar Monitoring von KI-Agenten: Kontrolle & Sicherheit.
Werden auch Compliance-Anforderungen behandelt?
Ja, aber mit Security-Bezug: Risikobewertung, Policies, Lieferkette, erlaubte Daten und Freigabeprozesse werden auf GenAI-Use-Cases angewendet. Wenn Governance und Regulierung stärker im Mittelpunkt stehen, ist zusätzlich die Schulung EU AI Act: Was Mitarbeitende jetzt wissen und beachten müssen oder KI, Ethik & Compliance sinnvoll.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs .
Passende Schulungen nach dem Kurs
Ähnliche Kurse
Malware-Analyse mit KI Grundkurs: Erkennen, Finden, Beweisen
Defensive KI: IT-Infrastruktur wirklich absichern
Shadow AI stoppen: KI-Nutzung sicher steuern
KI-Sicherheit in der Cloud Grundkurs
Monitoring von KI-Agenten: Kontrolle & Sicherheit
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
