Nicht das Haus wird eingestuft, sondern jede Anwendung
Erst die Rolle, dann die Klasse, und beides je Anwendung statt fürs ganze Haus. Ein Ablauf, an dessen Ende eine begründete Entscheidung im Verzeichnis steht.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Die Einstufung scheitert an zu grob beschriebenen Anwendungen
Die Frage kommt selten als Rechtsfrage an. Sie kommt als Tabelle, in der jemand KI im Kundenservice und KI im Personalbereich notiert hat, und an dieser Beschreibung lässt sich nichts entscheiden. Die Verordnung knüpft an die Zweckbestimmung einer einzelnen Anwendung an und nicht an ein Themengebiet.
Wer zu grob einstuft, macht einen von zwei Fehlern. Entweder wird vorsorglich alles als hochriskant behandelt, dann erstickt jedes kleine Vorhaben in Anforderungen, die nie für es gedacht waren. Oder es wird pauschal entwarnt, und niemand bemerkt, dass die Bewerbervorauswahl genau der Fall ist, für den die strengen Regeln geschrieben wurden.
Beide Fehler haben dieselbe Ursache und dieselbe Behebung: eine Liste einzelner Anwendungen mit je einem Satz zum Zweck. Alles Weitere folgt daraus, und ohne diese Liste bleibt jede Einstufung Verhandlungssache.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Wer entscheidet was
| Thema | Wer entscheidet | Wer setzt um | Stolperfalle |
|---|---|---|---|
| Rolle je System festlegen | Recht oder Compliance zusammen mit der Fachabteilung, die das System einsetzt | Die Fachabteilung dokumentiert Herkunft, Zweckbestimmung und eigene Änderungen am System | Wer ein zugekauftes System unter eigenem Namen weitergibt oder seinen Zweck ändert, wird nach Artikel 25 selbst zum Anbieter und übernimmt damit den weit größeren Pflichtenkreis. |
| Einstufung in die Risikoklasse | Eine namentlich benannte Person mit Zugang zu Recht, Datenschutz und Technik | Fachabteilung liefert den Zweck, die IT die Funktionsweise, Datenschutz die Wirkung auf Betroffene | Die Ausnahme in Artikel 6 Absatz 3 wird angenommen statt begründet. Die Begründung muss vor dem Einsatz schriftlich vorliegen, sonst nützt sie im Ernstfall nichts. |
| Transparenz gegenüber den Nutzenden | Der Fachbereich, dem die Anwendung gehört, gemeinsam mit der Kommunikation | Das Team, das die Oberfläche baut, an genau der Stelle, an der die Interaktion beginnt | Der Hinweis landet in den Nutzungsbedingungen statt in der Oberfläche und erreicht damit niemanden, der ihn brauchen würde. |
| KI-Kompetenz der Beschäftigten nach Artikel 4 | Geschäftsführung und Personalbereich | Führungskräfte je Bereich, zugeschnitten auf die Systeme, mit denen ihr Team tatsächlich arbeitet | Eine einmalige Rundmail wird als Nachweis geführt, ohne festzuhalten, wer mit welchem System arbeitet und was dafür nötig war. |
| Beschäftigte und Interessenvertretung einbeziehen | Personalbereich gemeinsam mit der Interessenvertretung | Die Abteilung, die das System einführt, vor der Inbetriebnahme und nicht danach | Die Information erfolgt erst nach dem Start. Beim Einsatz von Hochrisikosystemen am Arbeitsplatz sieht Artikel 26 die Unterrichtung ausdrücklich vorher vor. |
Rolle je System festlegen
- Wer entscheidet
- Recht oder Compliance zusammen mit der Fachabteilung, die das System einsetzt
- Wer setzt um
- Die Fachabteilung dokumentiert Herkunft, Zweckbestimmung und eigene Änderungen am System
- Stolperfalle
- Wer ein zugekauftes System unter eigenem Namen weitergibt oder seinen Zweck ändert, wird nach Artikel 25 selbst zum Anbieter und übernimmt damit den weit größeren Pflichtenkreis.
Einstufung in die Risikoklasse
- Wer entscheidet
- Eine namentlich benannte Person mit Zugang zu Recht, Datenschutz und Technik
- Wer setzt um
- Fachabteilung liefert den Zweck, die IT die Funktionsweise, Datenschutz die Wirkung auf Betroffene
- Stolperfalle
- Die Ausnahme in Artikel 6 Absatz 3 wird angenommen statt begründet. Die Begründung muss vor dem Einsatz schriftlich vorliegen, sonst nützt sie im Ernstfall nichts.
Transparenz gegenüber den Nutzenden
- Wer entscheidet
- Der Fachbereich, dem die Anwendung gehört, gemeinsam mit der Kommunikation
- Wer setzt um
- Das Team, das die Oberfläche baut, an genau der Stelle, an der die Interaktion beginnt
- Stolperfalle
- Der Hinweis landet in den Nutzungsbedingungen statt in der Oberfläche und erreicht damit niemanden, der ihn brauchen würde.
KI-Kompetenz der Beschäftigten nach Artikel 4
- Wer entscheidet
- Geschäftsführung und Personalbereich
- Wer setzt um
- Führungskräfte je Bereich, zugeschnitten auf die Systeme, mit denen ihr Team tatsächlich arbeitet
- Stolperfalle
- Eine einmalige Rundmail wird als Nachweis geführt, ohne festzuhalten, wer mit welchem System arbeitet und was dafür nötig war.
Beschäftigte und Interessenvertretung einbeziehen
- Wer entscheidet
- Personalbereich gemeinsam mit der Interessenvertretung
- Wer setzt um
- Die Abteilung, die das System einführt, vor der Inbetriebnahme und nicht danach
- Stolperfalle
- Die Information erfolgt erst nach dem Start. Beim Einsatz von Hochrisikosystemen am Arbeitsplatz sieht Artikel 26 die Unterrichtung ausdrücklich vorher vor.
Sechs Schritte bis zur begründeten Einstufung
- 01 Die Anwendung wird einzeln benannt, mit der Entscheidung, die sie berührt.
- 02 Die Rolle als Anbieter oder Betreiber wird für dieses System geklärt.
- 03 Die verbotenen Praktiken aus Artikel 5 werden ausgeschlossen.
- 04 Der Zweck wird gegen Anhang III und gegen die geregelten Produkte abgeglichen.
- 05 Bei einem Treffer wird die Ausnahme geprüft und schriftlich begründet.
- 06 Ergebnis, Verantwortung und Datum landen im Verzeichnis mit Wiedervorlage.
Was du mitnimmst
Nach dieser Seite kannst du eine konkrete Anwendung durch die Prüfung führen und das Ergebnis so festhalten, dass es einer Nachfrage standhält.
Die Rolle bestimmen
Du unterscheidest Anbieter und Betreiber je System und erkennst die Punkte, an denen ihr durch eigene Änderungen zum Anbieter werdet.
Den Zweck eng fassen
Du beschreibst jede Anwendung über die Entscheidung, die sie beeinflusst, statt über den Bereich, in dem sie läuft.
Beide Wege abgleichen
Du prüfst gezielt gegen die aufgeführten Bereiche und zusätzlich, ob das System als Sicherheitsbauteil in einem bereits regulierten Produkt steckt. Erst wenn beide Wege ohne Treffer bleiben, beendest du die Prüfung.
Die Ausnahme belegen
Du kennst die vier Bedingungen und die Profiling-Grenze und weißt, dass die Begründung vor dem Einsatz schriftlich vorliegen muss.
Transparenz einbauen
Du sorgst dafür, dass der Hinweis auf die maschinelle Antwort in der Oberfläche steht und nicht in den Nutzungsbedingungen.
Wiedervorlage verankern
Du koppelst die Neubewertung an die Zweckänderung, damit aus einer Entwurfshilfe nicht unbemerkt ein Entscheidungssystem wird.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Erst die Rolle klären, sonst stimmt die ganze Prüfung nicht
Die KI-Verordnung unterscheidet vor allem zwischen Anbietern, die ein System entwickeln und unter eigenem Namen bereitstellen, und Betreibern, die ein System in eigener Verantwortung einsetzen. Wer ein fertiges Produkt einkauft und im Haus nutzt, ist in aller Regel Betreiber und hat deutlich weniger Pflichten, aber eben nicht keine.
Die Rolle kann kippen. Wer ein zugekauftes System unter eigenem Namen weitergibt, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass es dadurch in den Hochrisikobereich fällt, wird nach Artikel 25 selbst zum Anbieter. Genau dieser Punkt wird bei Eigenentwicklungen auf Basis fremder Modelle regelmäßig unterschätzt.
Prüf die Rolle je System und nicht je Haus. Es ist der Normalfall, dass ihr bei einem eingekauften Assistenten Betreiber und bei der selbst gebauten Auswertung Anbieter seid.
Vier Stufen, und die meisten Anwendungen landen unten
Die Verordnung kennt verbotene Praktiken, Hochrisikosysteme, Systeme mit Transparenzpflichten und alles Übrige ohne besondere Auflagen. Die verbotenen Praktiken stehen in Artikel 5 und gelten nach der Übersicht der Europäischen Kommission seit dem 2. Februar 2025. Dazu zählen unter anderem das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen, sowie die Bewertung von Personen nach sozialem Verhalten mit benachteiligenden Folgen.
Hochrisiko ergibt sich auf zwei Wegen: als Sicherheitsbauteil in Produkten, die bereits einer EU-Konformitätsbewertung unterliegen, oder über die Anwendungsbereiche in Anhang III. Dort stehen unter anderem Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, der Zugang zu grundlegenden privaten und öffentlichen Diensten, Strafverfolgung, Migration und Rechtspflege. Erst wenn eure Anwendung weder als Sicherheitsbauteil in einem solchen Produkt steckt noch in einen der Bereiche aus Anhang III fällt, ist sie kein Hochrisikosystem, und die Prüfung endet an dieser Stelle.
Bleibt die Transparenzebene aus Artikel 50, und die greift unabhängig von der Klasse. Wer mit einem Chatbot spricht, muss erkennen können, dass eine Maschine antwortet, und maschinell erzeugte oder veränderte Inhalte sind entsprechend zu kennzeichnen. Das ist keine Risikoklasse im engeren Sinn, sondern eine Pflicht, die zusätzlich gilt.
Die Ausnahme in Artikel 6 Absatz 3 ist eine Beweislast, kein Ausweg
Fällt eine Anwendung in einen Bereich aus Anhang III, ist sie trotzdem nicht zwingend hochriskant. Die Verordnung lässt eine Ausnahme zu, wenn kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte besteht. Das ist der Fall, wenn das System nur eine eng gefasste Verfahrensaufgabe erfüllt, wenn es das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert, wenn es Entscheidungsmuster erkennt, ohne die menschliche Bewertung zu ersetzen, oder wenn es eine reine Vorbereitungsaufgabe übernimmt.
Zwei Bedingungen machen aus dieser Ausnahme eine Verpflichtung. Erstens gilt sie nicht, wenn das System ein Profiling natürlicher Personen vornimmt, dann bleibt es hochriskant. Zweitens ist die Einschätzung zu dokumentieren, bevor das System eingesetzt wird. Wer sich auf die Ausnahme beruft, ohne sie schriftlich zu begründen, hat den schlechteren Teil beider Wege.
Wenn ihr euch bei einem Fall nicht einig werdet, ist das meist ein Hinweis darauf, dass der Zweck zu unscharf beschrieben ist. Formulier ihn so eng, dass klar wird, welche Entscheidung das System beeinflusst und welche ausdrücklich nicht.
Drei Fälle, wie sie in Unternehmen tatsächlich vorkommen
Vorauswahl von Bewerbungen: Anhang III führt Beschäftigung und Personalmanagement ausdrücklich auf, und dazu gehört das Auswerten und Filtern von Bewerbungen. Sobald dabei Personen bewertet werden, greift die Profiling-Regel, und die Ausnahme steht nicht zur Verfügung. Das ist der klassische Hochrisikofall im Unternehmen.
Kundenchatbot auf der Webseite: Solange er Auskunft gibt und keinen Zugang zu Leistungen steuert, ist er kein Hochrisikosystem. Es bleibt die Transparenzpflicht, also der erkennbare Hinweis, dass hier keine Person antwortet. Anders sieht es aus, sobald er über die Kreditwürdigkeit oder den Zugang zu einer grundlegenden Leistung mitentscheidet.
Interner Wissensassistent auf euren eigenen Dokumenten: meist keine besondere Klasse, weil er niemanden bewertet und keine Entscheidung über Personen trifft. Zu regeln bleibt trotzdem einiges, nämlich Datenschutz, die Zugriffsrechte auf die angebundenen Ablagen und die Beteiligung der Interessenvertretung, wenn sich damit Arbeitsverhalten sichtbar machen ließe.
Die Einstufung ist ein Dokument mit Wiedervorlage
Führt ein Verzeichnis eurer KI-Anwendungen mit je einem kurzen Eintrag: Zweck, Rolle, betroffene Personengruppen, Wirkung auf Entscheidungen, Klasse mit Begründung, verantwortliche Person und Datum. Das ist der Nachweis, den eine Prüfung sehen will, und gleichzeitig die Liste, mit der ihr bei jeder Änderung arbeitet.
Der häufigste Fehler danach ist die fehlende Wiedervorlage. Eine Anwendung, die als Entwurfshilfe eingestuft wurde und ein halbes Jahr später Vorschläge für Personalentscheidungen liefert, ist neu zu bewerten. Koppelt die Prüfung deshalb an den Zweck, denn wer den Zweck ändert, löst die Neubewertung aus.
Wer das dauerhaft ordnen will, findet mit ISO/IEC 42001 einen Managementsystem-Standard für künstliche Intelligenz. Er folgt derselben Grundstruktur wie ISO 9001 oder ISO/IEC 27001 und lässt sich deshalb an ein bestehendes Managementsystem anschließen. Eine rechtliche Prüfung ersetzt er nicht, er liefert den Rahmen für Verantwortlichkeiten, Bewertungen und Wiedervorlagen.
Dazu passende Kurse
Wer die Einstufung nicht einmalig, sondern als festen Ablauf verankern will, findet die Grundlagen dafür in den Kursen zu Regeln und Verantwortung beim KI-Einsatz .
Damit aus der Einstufung im Alltag auch Verhalten wird, hilft ein Blick darauf, wie sich die Regeln im Büroalltag anwenden lassen .
Wie sicher bist du beim Thema wirklich?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
Häufige Fragen
Gilt die KI-Verordnung auch für uns, wenn wir nur fertige Werkzeuge einsetzen?
Ab wann müssen Hochrisikosysteme die Anforderungen erfüllen?
Wer stuft ein, die IT oder die Rechtsabteilung?
Was passiert, wenn wir uns bei der Klasse irren?
Passt thematisch dazu
Die Einstufung nützt nur, wenn danach jemand weiß, welche Systeme überhaupt im Einsatz sind und wer sie verantwortet, und dafür brauchst du ein Systemverzeichnis, das gepflegt bleibt .
Falls dir zuerst die Systematik dahinter fehlt, klärt der Überblick über die KI-Verordnung und ihre Pflichtenstufen , wer als Anbieter oder Betreiber gilt und was daran hängt.
Deine Ansprechpartner
Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.
Norbert Jansen
Beratung & Inhouse
Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.
Die Einstufung ist der Anfang, nicht das Ergebnis
Bei cmt baust du Rollen, Nachweise und ein Managementsystem für KI entlang der Verordnung und der zugehörigen Norm auf.