Was ist der EU AI Act?
KI-Verordnung der EU
Der EU AI Act, offiziell Verordnung (EU) 2024/1689, ist die KI-Verordnung der Europäischen Union. Sie ordnet KI-Systeme nach ihrem Risiko in vier Stufen ein, von verboten bis minimal, und knüpft daran abgestufte Pflichten für alle, die solche Systeme anbieten oder im eigenen Betrieb einsetzen.
Wer KI nur einkauft und einsetzt, hat andere Pflichten als wer sie anbietet, und genau diese Rolle entscheidet, wie viel Aufwand auf dich zukommt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
- Gilt für
- Anbieter und Betreiber von KI-Systemen
- Ordnet nach
- Risiko, von verboten bis minimal
- Anwendung
- Gestaffelt von Februar 2025 bis August 2028
- Verwechselt mit
- DSGVO
Die vier Risikoklassen im Überblick
Die Verordnung regelt nicht die Technik an sich, sondern ihren Einsatz. Ob ein System verboten, streng reguliert oder weitgehend frei ist, hängt davon ab, wofür es verwendet wird. Dasselbe Sprachmodell kann deshalb in einer Anwendung unkritisch sein und in einer anderen als Hochrisiko-System gelten.
| Risikoklasse | Beispiele | Folge |
|---|---|---|
| Unannehmbares Risiko | Social Scoring, Emotionserkennung am Arbeitsplatz | Verboten (Artikel 5) |
| Hohes Risiko | Bewerberauswahl, Kreditwürdigkeit, KI in Medizinprodukten | Voller Pflichtenkatalog, Konformitätsverfahren |
| Transparenzrisiko | Chatbots, Deepfakes, generierte Texte und Bilder | Kennzeichnung und Offenlegung (Artikel 50) |
| Minimales Risiko | Spamfilter, Nachfrageprognose | Keine besonderen Pflichten |
Für Hochrisiko-Systeme verlangt die Verordnung Risikomanagement, Anforderungen an die Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Robustheit sowie ein Konformitätsverfahren vor dem Inverkehrbringen. Hochrisiko ist ein System entweder als Sicherheitsbauteil eines regulierten Produkts (Anhang I) oder durch seinen Einsatzbereich (Anhang III), etwa Personalwesen, Bildung, kritische Infrastruktur oder Strafverfolgung.
Quer dazu stehen KI-Modelle mit allgemeinem Verwendungszweck, also große Sprach- und Bildmodelle. Für sie gelten eigene Regeln, die vor allem die Anbieter dieser Modelle treffen, nicht die Unternehmen, die sie über eine Anwendung nutzen.
Was nach Artikel 5 verboten ist
Die verbotenen Praktiken gelten seit dem 2. Februar 2025. Die Liste ist kurz, aber einige Punkte betreffen ganz normale Unternehmen und nicht nur Behörden.
-
Manipulation
Unterschwellige oder gezielt täuschende Techniken, die das Verhalten von Menschen so beeinflussen, dass ihnen erheblicher Schaden droht.
-
Ausnutzen von Schwächen
Systeme, die Alter, Behinderung oder eine soziale Notlage ausnutzen, um Menschen zu schädlichem Verhalten zu bringen.
-
Social Scoring
Bewertung von Menschen nach Sozialverhalten oder Persönlichkeit, wenn daraus ungerechtfertigte Benachteiligungen folgen, durch öffentliche wie private Stellen.
-
Vorhersage von Straftaten
Risikobewertungen, ob jemand eine Straftat begehen wird, die allein auf Profiling oder Persönlichkeitsmerkmalen beruhen.
-
Gesichtsdatenbanken
Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoaufnahmen, um Erkennungsdatenbanken aufzubauen.
-
Emotionserkennung
Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, mit Ausnahmen aus medizinischen oder Sicherheitsgründen.
-
Biometrische Kategorisierung
Rückschlüsse aus biometrischen Daten auf sensible Merkmale wie politische Haltung, Religion oder sexuelle Orientierung.
-
Biometrische Echtzeit-Fernidentifizierung
Echtzeit-Erkennung in öffentlich zugänglichen Räumen zur Strafverfolgung, bis auf eng begrenzte Ausnahmen.
Mit der Änderung durch den Digital Omnibus, die Verordnung (EU) 2026/1744, kommt ab dem 2. Dezember 2026 ein weiteres Verbot dazu: Systeme, die nicht einvernehmliche intime Darstellungen realer Personen oder Missbrauchsmaterial von Kindern erzeugen.
Anbieter oder Betreiber, das entscheidet fast alles
Die Verordnung unterscheidet vor allem zwei Rollen. Anbieter entwickeln ein System oder bringen es unter eigenem Namen auf den Markt und tragen den Hauptteil der Pflichten. Betreiber setzen ein System unter eigener Verantwortung ein und haben deutlich weniger Pflichten, aber eben doch welche: Einsatz gemäß Anleitung, Sicherstellen der menschlichen Aufsicht, Beobachtung des Betriebs, Aufbewahren von Protokollen und die Information von Beschäftigten, wenn ein Hochrisiko-System sie betrifft.
Die Rolle kann kippen. Wer ein zugekauftes System unter eigenem Namen weitergibt, es wesentlich verändert oder für einen Hochrisiko-Zweck einsetzt, für den es nicht vorgesehen war, gilt als Anbieter und übernimmt damit dessen Pflichten. Das ist der Punkt, an dem viele Eigenentwicklungen auf Basis fremder Modelle einsortiert werden müssen.
Unabhängig von der Rolle gilt Artikel 4: Anbieter und Betreiber müssen Maßnahmen ergreifen, damit die Menschen, die in ihrem Auftrag mit KI arbeiten, über KI-Kompetenz verfügen. Seit der Änderung durch den Omnibus ist ausdrücklich kein bestimmtes Kompetenzniveau mehr zu garantieren, die Pflicht zu handeln bleibt aber bestehen.
Zeitplan: was seit wann gilt
Die Verordnung ist am 1. August 2024 in Kraft getreten, ihre Pflichten greifen aber gestaffelt. Der Digital Omnibus, seit dem 27. Juli 2026 in Kraft, hat die Termine für Hochrisiko-Systeme nach hinten geschoben. Stand Oktober 2026 sieht der Fahrplan so aus:
| Datum | Was gilt |
|---|---|
| 02.02.2025 | Verbotene Praktiken, Pflicht zur KI-Kompetenz |
| 02.08.2025 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Aufsicht, Sanktionen |
| 02.08.2026 | Allgemeine Anwendbarkeit, Transparenzpflichten nach Artikel 50 |
| 02.12.2026 | Zusätzliches Verbot nach dem Omnibus, Ende der Übergangsfrist für die maschinenlesbare Markierung bei Altsystemen |
| 02.12.2027 | Hochrisiko-Systeme aus Anhang III, etwa im Personalwesen |
| 02.08.2028 | Hochrisiko-KI in regulierten Produkten nach Anhang I |
Die Verschiebung betrifft nur den Zeitpunkt, nicht die Anforderungen. Ein System, das im Dezember 2027 Datenverwaltung, Protokollierung und technische Dokumentation vorweisen muss, braucht dafür mehr als ein Quartal Vorlauf. Dieser Überblick ersetzt keine rechtliche Prüfung des Einzelfalls.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
EU AI Act und was oft damit gleichgesetzt wird
Die Datenschutz-Grundverordnung regelt den Umgang mit personenbezogenen Daten und gilt unverändert weiter. Der AI Act setzt daneben an: Er regelt das System und seine Risiken, unabhängig davon, ob personenbezogene Daten verarbeitet werden. Ein Bewerbungsfilter fällt deshalb unter beide Verordnungen zugleich.
Dort geht es um die Sicherheit von Produkten mit digitalen Elementen, also um Schwachstellen und Updates. Beide Verordnungen können auf dasselbe Produkt zutreffen und verlangen dann jeweils eigene Nachweise.
Die Verordnung sagt, was ein Hochrisiko-System leisten muss, aber nicht im technischen Detail, wie. Das sollen harmonisierte europäische Normen beschreiben, die im Auftrag der Kommission bei CEN und CENELEC entstehen. Wer eine solche Norm anwendet, für den gilt die Vermutung, die Anforderungen zu erfüllen.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Erst die Bestandsliste, dann die Einstufung
Der erste greifbare Schritt ist eine Liste aller KI-Funktionen im Haus, auch der eingebauten. Viele stecken in Software, die aus ganz anderen Gründen beschafft wurde, und manches haben Fachabteilungen ohne die IT eingeführt. Zu jedem Eintrag gehört, wer ihn wofür nutzt und ob Bewerbungen, die Bewertung von Beschäftigten oder Entscheidungen über die Kundschaft berührt sind.
Eingestuft wird dann je Anwendungsfall, nicht je Werkzeug. Sinnvoll ist es, Zuständigkeiten, die Dokumentation des Verwendungszwecks und die Nachweise der Anbieter an vorhandene Verfahren aus Datenschutz und Informationssicherheit anzuhängen, statt eine zweite Struktur aufzubauen. Wer einkauft, schreibt die Zusagen des Anbieters zu Dokumentation und Protokollierung schon jetzt in den Vertrag, auch wenn die Hochrisiko-Pflichten erst später greifen.
EU AI Act lernen
Wie ihr eure KI-Systeme erfasst, einstuft und die nötigen Nachweise organisiert, behandeln die Kurse zu Regulierung und Compliance rund um KI entlang konkreter Anwendungsfälle.
Sitzt EU AI Act schon?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Kurse, die EU AI Act behandeln
Häufige Fragen
Gilt der EU AI Act auch, wenn wir KI nur einkaufen?
Ist ein Chatassistent im Unternehmen ein Hochrisiko-System?
Welche Bußgelder sieht der AI Act vor?
Wer überwacht die Einhaltung in Deutschland?
Passt thematisch dazu
Welche Risikostufe für euer eigenes System gilt, klärt die Einordnung in zwei Schritten, beginnend bei der Frage, ob ihr Anbieter oder Betreiber seid.
Welche Pflichten heute schon greifen und welche nach dem Omnibus erst später kommen, sortiert die Übersicht, was seit August 2026 gilt.
Deine Ansprechpartner
Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.
Norbert Jansen
Beratung & Inhouse
Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.
EU AI Act im Kurs statt im Lexikon
Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.