ISO 42001: Ordnung für den KI-Einsatz
Die Struktur kennst du aus der Informationssicherheit, die Blickrichtung ist neu: Es geht auch um die Folgen, die ein KI-System für Menschen außerhalb des Hauses hat.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
KI wird eingeführt, bevor jemand die Verantwortung geklärt hat
In den meisten Häusern war die KI zuerst da und die Regeln kamen später. Eine Abteilung testet ein Sprachmodell, eine andere baut eine Auswertung, der Einkauf schließt einen Vertrag, und niemand kann sagen, welche Systeme im Haus überhaupt laufen und welche Daten dabei verarbeitet werden.
Das fällt so lange nicht auf, bis eine Ausgabe Folgen hat. Eine Vorauswahl von Bewerbungen, eine automatische Priorisierung von Anfragen, eine Empfehlung an die Sachbearbeitung: Sobald eine Entscheidung Menschen betrifft, kommt die Frage nach Zuständigkeit und Nachvollziehbarkeit, und zwar von Kunden, von der Aufsicht oder aus der Mitbestimmung.
Wer dann anfängt, ein Managementsystem zu bauen, macht unter Zeitdruck eine Bestandsaufnahme, für die vorher ein paar Wochen gereicht hätten.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Wer entscheidet was
| Thema | Wer entscheidet | Wer setzt um | Stolperfalle |
|---|---|---|---|
| KI-Leitlinie und erlaubte Einsätze | Die oberste Leitung, weil die Leitlinie Geschäftsentscheidungen bindet | Die Rolle, die das Managementsystem führt, gemeinsam mit den Fachbereichen | Eine Leitlinie, die nur Werte aufzählt, hilft niemandem. Erst die Liste der ausdrücklich verbotenen Einsätze macht sie im Alltag entscheidbar. |
| Aufnahme eines neuen KI-Systems | Die Leitung des Fachbereichs, der das System nutzen will | Fachbereich, IT und Einkauf gemeinsam, mit Eintrag im Verzeichnis | Kostenlose Testzugänge laufen an Einkauf und Verzeichnis vorbei und tauchen erst auf, wenn längst Daten geflossen sind. |
| Folgenbetrachtung für Betroffene | Die Leitung, gestützt auf die Bewertung aus dem Fachbereich | Fachleute aus der Domäne zusammen mit der Rolle für das Managementsystem | Wird die Betrachtung an die IT delegiert, entsteht eine Sicherheitsbewertung. Die Frage nach Benachteiligung stellt dann niemand. |
| Daten für Training und Betrieb | Die Stelle, die für den jeweiligen Datenbestand verantwortlich ist | Datenverantwortliche mit dem Team, das das System betreibt | Herkunft und Nutzungsrechte werden spät geprüft, obwohl sie über den gesamten weiteren Einsatz entscheiden. |
| Modell- oder Anbieterwechsel | Die Leitung des Fachbereichs zusammen mit dem Einkauf | Das Betriebsteam mit erneuter Prüfung von Ausgabequalität und Folgen | Anbieter tauschen Modellversionen ohne Ankündigung aus. Ohne vertragliche Informationspflicht merkt es zuerst die Kundschaft. |
KI-Leitlinie und erlaubte Einsätze
- Wer entscheidet
- Die oberste Leitung, weil die Leitlinie Geschäftsentscheidungen bindet
- Wer setzt um
- Die Rolle, die das Managementsystem führt, gemeinsam mit den Fachbereichen
- Stolperfalle
- Eine Leitlinie, die nur Werte aufzählt, hilft niemandem. Erst die Liste der ausdrücklich verbotenen Einsätze macht sie im Alltag entscheidbar.
Aufnahme eines neuen KI-Systems
- Wer entscheidet
- Die Leitung des Fachbereichs, der das System nutzen will
- Wer setzt um
- Fachbereich, IT und Einkauf gemeinsam, mit Eintrag im Verzeichnis
- Stolperfalle
- Kostenlose Testzugänge laufen an Einkauf und Verzeichnis vorbei und tauchen erst auf, wenn längst Daten geflossen sind.
Folgenbetrachtung für Betroffene
- Wer entscheidet
- Die Leitung, gestützt auf die Bewertung aus dem Fachbereich
- Wer setzt um
- Fachleute aus der Domäne zusammen mit der Rolle für das Managementsystem
- Stolperfalle
- Wird die Betrachtung an die IT delegiert, entsteht eine Sicherheitsbewertung. Die Frage nach Benachteiligung stellt dann niemand.
Daten für Training und Betrieb
- Wer entscheidet
- Die Stelle, die für den jeweiligen Datenbestand verantwortlich ist
- Wer setzt um
- Datenverantwortliche mit dem Team, das das System betreibt
- Stolperfalle
- Herkunft und Nutzungsrechte werden spät geprüft, obwohl sie über den gesamten weiteren Einsatz entscheiden.
Modell- oder Anbieterwechsel
- Wer entscheidet
- Die Leitung des Fachbereichs zusammen mit dem Einkauf
- Wer setzt um
- Das Betriebsteam mit erneuter Prüfung von Ausgabequalität und Folgen
- Stolperfalle
- Anbieter tauschen Modellversionen ohne Ankündigung aus. Ohne vertragliche Informationspflicht merkt es zuerst die Kundschaft.
Sechs Schritte zum KI-Managementsystem
- 01 Der Geltungsbereich benennt, welche KI-Systeme dazugehören.
- 02 Die Rolle als Anbieter oder Anwender wird je System festgelegt.
- 03 Die Leitlinie sagt, welche Einsätze erlaubt sind und welche nicht.
- 04 Risiken und Folgen für Betroffene werden getrennt bewertet.
- 05 Die Maßnahmen aus dem Anhang werden ausgewählt und begründet.
- 06 Internes Audit und Managementbewertung halten das System in Bewegung.
Was du nach dieser Seite einordnen kannst
Die Norm liest sich trockener, als sie ist. Hinter den Kapiteln steckt eine überschaubare Zahl von Entscheidungen, die eine Organisation ohnehin treffen muss.
Rolle bestimmen
Du klärst je System, ob dein Haus entwickelt, bereitstellt oder nur nutzt, denn davon hängt ab, welche Anforderungen wirklich greifen.
Bestand aufnehmen
Du legst ein Verzeichnis der eingesetzten Systeme an, mit Zweck, Datenquellen, Verantwortlichen und der Frage, wer die Ausgabe prüft.
Risiko und Folgen trennen
Du unterscheidest, was der Organisation schaden kann, von dem, was Personen und Gruppen durch den Einsatz treffen kann.
Leitlinie schreiben, die trägt
Du formulierst eine KI-Leitlinie, die erlaubte und verbotene Einsätze benennt, statt allgemeine Bekenntnisse aufzuschreiben.
An bestehende Systeme andocken
Du nutzt Dokumentenlenkung, Auditprogramm und Managementbewertung aus dem vorhandenen System weiter, statt alles doppelt zu bauen.
Anbieter in die Pflicht nehmen
Du hältst vertraglich fest, welche Informationen über Modell, Daten und Änderungen geliefert werden, bevor ein stiller Versionswechsel dich überrascht.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der Aufbau ist bekannt, der Blickwinkel ist neu
Wer schon ein Managementsystem betreibt, erkennt die Struktur sofort wieder. Interessierte Parteien, Geltungsbereich, Leitlinie, Ziele, Kompetenz, dokumentierte Information, internes Audit, Managementbewertung: All das gibt es auch hier, und es lässt sich mit einem bestehenden System gemeinsam führen.
Der Unterschied liegt in der Richtung der Betrachtung. In der Informationssicherheit geht es um Risiken für die Organisation. ISO/IEC 42001 verlangt zusätzlich, die Auswirkungen der eingesetzten KI-Systeme auf Personen und Gruppen zu betrachten, also auf Menschen außerhalb der eigenen Bilanz. Diese Folgenbetrachtung ist eine eigene Anforderung und nicht mit der Risikobeurteilung identisch.
Anbieter oder Anwender, das ist die erste Weiche
Die Norm richtet sich an Organisationen, die KI-Systeme entwickeln, bereitstellen oder schlicht nutzen. Welche Rolle du einnimmst, bestimmt, welche Anforderungen Gewicht haben. Ein Haus, das ein zugekauftes Sprachmodell im Kundenservice einsetzt, muss vor allem die Nutzung steuern, die Anbieterbeziehung regeln und die Beschäftigten für den Umgang damit schulen. Ein Haus, das selbst entwickelt, verantwortet zusätzlich Daten, Training, Test und den gesamten Lebenszyklus.
Eindeutig ist die Rolle selten. Sobald du ein zugekauftes Modell mit eigenen Daten anreicherst oder eigene Regeln davorschaltest, entstehen Verantwortlichkeiten, die vorher beim Anbieter lagen. Das früh zu klären, erspart später die Diskussion darüber, wer eine falsche Ausgabe zu verantworten hat.
Was der Anhang abdeckt
Die Maßnahmen im Anhang sind thematisch gruppiert und behandeln unter anderem die Leitlinie zum Umgang mit KI, die interne Organisation, Ressourcen für KI-Systeme, die Folgenbetrachtung, den Lebenszyklus der Systeme, Daten für KI-Systeme, Informationen für interessierte Parteien, die Nutzung der Systeme und die Beziehungen zu Dritten.
Unter Ressourcen fallen dabei mehr als Server. Gemeint sind Daten, Werkzeuge, Rechenleistung und die Menschen mit ihren Kompetenzen. Wie in der Informationssicherheit gehört auch hier eine Erklärung zur Anwendbarkeit dazu, in der jede Maßnahme mit Entscheidung und Begründung steht. Ein Ausschluss ist möglich, muss aber aus der Analyse folgen und nicht aus dem Aufwand.
Andocken an ein bestehendes System
Weil die Kapitelstruktur mit ISO/IEC 27001 und ISO 9001 übereinstimmt, lassen sich Dokumentenlenkung, Auditprogramm, Managementbewertung, Kompetenznachweise und Korrekturmaßnahmen gemeinsam führen. Ein zweites, paralleles System zu bauen, ist der häufigste vermeidbare Fehler in solchen Projekten.
Getrennt bleiben muss dagegen der fachliche Kern. Die Risikomethode kann geteilt werden, die Bewertungskriterien nicht ohne Weiteres: Ein Modell, das bestimmte Gruppen systematisch benachteiligt, verletzt keine Vertraulichkeit und fällt in einer reinen Sicherheitsbetrachtung durch das Raster. Für die Folgenbetrachtung braucht es deshalb eigene Kriterien und Leute, die die Fachdomäne kennen.
Zum Verhältnis zur europäischen KI-Regulierung nur so viel: Ein Zertifikat nach ISO/IEC 42001 ist kein Nachweis darüber, dass gesetzliche Pflichten erfüllt sind. Viele Artefakte, die im Managementsystem ohnehin entstehen, sind aber genau die, nach denen später gefragt wird.
Dazu passende Kurse
Zu den Zertifizierungsseminaren nach ISO-Normen geht es, wenn du den Aufbau eines Managementsystems lieber geführt lernst als aus Klauseltexten.
Weil die meisten Häuser das KI-System an ein bestehendes Sicherheitssystem andocken, sind auch die Kurse zur Informationssicherheit eine sinnvolle Grundlage.
Wie sicher bist du beim Thema wirklich?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Wo du genau das übst
Katharina war eine super Dozentin mit sehr viel Wissen. Sie ist auf alle Fragen eingegangen und konnte alle klären.
Ein sehr anspruchsvolles Training welches von einer sehr kompetente Trainerin geleitet wurde.
Alles in allem bin ich sehr zufrieden, da der Trainer sich viel Mühe gegeben hat und alles sehr gut erklären konnte.
Häufige Fragen
Brauchen wir die Norm, wenn wir KI nur einkaufen?
Lässt sich das mit einem bestehenden ISMS zusammenlegen?
Was unterscheidet Risikobeurteilung und Folgenbetrachtung?
Ersetzt die Norm die Anforderungen des europäischen KI-Rechts?
Passt thematisch dazu
Wenn dich weniger die Kapitelstruktur als die tägliche Umsetzung interessiert, findest du im KI-Bereich dieselbe Norm aus dem Blickwinkel des laufenden Betriebs .
Deine Ansprechpartner
Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Hilft dir, aus dem ITIL & PRINCE2-Programm den passenden Kurs für deinen Stand zu finden.
Norbert Jansen
Beratung & Inhouse
Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.
Vom Werkzeugkasten zum geordneten Betrieb
Beim ersten geordneten Durchgang durch die Norm zeigt sich fast immer dasselbe: Die halbe Struktur steht im Haus längst, sie ist nur nirgends als Managementsystem benannt.