Auftragsverarbeitung bei KI-Diensten prüfen
Bevor irgendein Vertrag unterschrieben wird, muss feststehen, ob der Anbieter weisungsgebunden arbeitet oder mit deinen Eingaben einen eigenen Zweck verfolgt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der fehlende Vertrag ist der häufigste Datenschutzfehler beim KI-Einsatz
Der Ablauf ist fast immer derselbe. Ein Team probiert ein Werkzeug aus, es funktioniert gut, nach ein paar Wochen läuft die halbe Abteilung darüber. Irgendwann fragt jemand nach dem Vertrag zur Auftragsverarbeitung, und dann stellt sich heraus, dass niemand geprüft hat, ob überhaupt eine Auftragsverarbeitung vorliegt.
Das ist teurer, als es klingt. Ohne diese Grundlage lässt sich weder eine Auskunft an betroffene Personen sauber beantworten noch ein Eintrag im Verzeichnis der Verarbeitungstätigkeiten führen. Kommt eine Anfrage der Aufsicht oder eine Frage im Kundenaudit, steht das Haus ohne Unterlagen da, obwohl die Verarbeitung längst läuft.
Die zweite Kostenstelle ist der Rückbau. Ein Werkzeug wieder abzuschalten, das die Abteilung als Arbeitserleichterung erlebt hat, erzeugt Widerstand und schiebt die Nutzung auf private Zugänge, wo überhaupt kein Einblick mehr besteht.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Wer entscheidet was
| Thema | Wer entscheidet | Wer setzt um | Stolperfalle |
|---|---|---|---|
| Einstufung der Rolle des Anbieters | Der Datenschutz, gestützt auf die technische Auskunft der IT | Der Datenschutz, mit einem schriftlichen Vermerk zur Begründung | Gelesen werden nur die allgemeinen Nutzungsbedingungen. Die Aussage zur Trainingsnutzung steht aber im Dokument für Geschäftskunden oder in der Tarifbeschreibung. |
| Abschluss und inhaltliche Prüfung des Vertrags | Der Einkauf gemeinsam mit dem Datenschutz | Der Einkauf, mit Ablage der geprüften Fassung samt Datum | Der Anbieter ändert seine Fassung ohne Ankündigung. Ohne abgelegte Version lässt sich später nicht mehr sagen, was zum Zeitpunkt der Freigabe galt. |
| Zulässige Datenklassen für dieses Werkzeug | Der Fachbereich, der die Daten verantwortet, gemeinsam mit dem Datenschutz | Der Fachbereich, mit zwei echten Beispielen je Klasse aus dem eigenen Haus | Die Grenze wird angeordnet, aber nicht abgesichert. Was sich einfügen lässt, wird eingefügt, sobald es unter Zeitdruck schneller geht. |
| Neue Unterauftragnehmer des Anbieters | Der Datenschutz, innerhalb der vertraglichen Widerspruchsfrist | Die IT, notfalls mit Abschaltung der betroffenen Funktion | Die Ankündigung läuft auf ein Sammelpostfach oder eine Statusseite, die niemand liest. Die Frist ist abgelaufen, bevor jemand davon erfährt. |
| Beendigung und Löschung am Vertragsende | Der Fachbereich gemeinsam mit dem Datenschutz | Die IT, mit Bestätigung des Anbieters über Konten, Protokolle und Index | Gelöscht wird das Konto. Zwischenspeicher, Nutzungsprotokolle und ein aufgebauter Suchindex bleiben davon unberührt, wenn niemand sie ausdrücklich benennt. |
Einstufung der Rolle des Anbieters
- Wer entscheidet
- Der Datenschutz, gestützt auf die technische Auskunft der IT
- Wer setzt um
- Der Datenschutz, mit einem schriftlichen Vermerk zur Begründung
- Stolperfalle
- Gelesen werden nur die allgemeinen Nutzungsbedingungen. Die Aussage zur Trainingsnutzung steht aber im Dokument für Geschäftskunden oder in der Tarifbeschreibung.
Abschluss und inhaltliche Prüfung des Vertrags
- Wer entscheidet
- Der Einkauf gemeinsam mit dem Datenschutz
- Wer setzt um
- Der Einkauf, mit Ablage der geprüften Fassung samt Datum
- Stolperfalle
- Der Anbieter ändert seine Fassung ohne Ankündigung. Ohne abgelegte Version lässt sich später nicht mehr sagen, was zum Zeitpunkt der Freigabe galt.
Zulässige Datenklassen für dieses Werkzeug
- Wer entscheidet
- Der Fachbereich, der die Daten verantwortet, gemeinsam mit dem Datenschutz
- Wer setzt um
- Der Fachbereich, mit zwei echten Beispielen je Klasse aus dem eigenen Haus
- Stolperfalle
- Die Grenze wird angeordnet, aber nicht abgesichert. Was sich einfügen lässt, wird eingefügt, sobald es unter Zeitdruck schneller geht.
Neue Unterauftragnehmer des Anbieters
- Wer entscheidet
- Der Datenschutz, innerhalb der vertraglichen Widerspruchsfrist
- Wer setzt um
- Die IT, notfalls mit Abschaltung der betroffenen Funktion
- Stolperfalle
- Die Ankündigung läuft auf ein Sammelpostfach oder eine Statusseite, die niemand liest. Die Frist ist abgelaufen, bevor jemand davon erfährt.
Beendigung und Löschung am Vertragsende
- Wer entscheidet
- Der Fachbereich gemeinsam mit dem Datenschutz
- Wer setzt um
- Die IT, mit Bestätigung des Anbieters über Konten, Protokolle und Index
- Stolperfalle
- Gelöscht wird das Konto. Zwischenspeicher, Nutzungsprotokolle und ein aufgebauter Suchindex bleiben davon unberührt, wenn niemand sie ausdrücklich benennt.
Sechs Fragen, die vor der Unterschrift beantwortet sind
- 01 Werden Eingaben zur Verbesserung der Modelle verwendet?
- 02 In welcher Region wird verarbeitet, und ist das zugesichert?
- 03 Wer sind die weiteren Auftragsverarbeiter, und wie erfährst du von Änderungen?
- 04 Wie lange bleiben Eingaben zur Missbrauchserkennung gespeichert?
- 05 Unter welchen Bedingungen sieht der Support Eingaben ein?
- 06 Welche Nachweise bekommst du zur Kontrolle, und wie alt sind sie?
Was du nach dieser Seite selbst prüfen kannst
Die Prüfung besteht aus einer Rollenfrage, einer Inhaltsprüfung und einer Handvoll Punkte, an denen Anbieterunterlagen erfahrungsgemäß schweigen. In dieser Reihenfolge dauert sie überschaubar lang.
Rolle sauber bestimmen
Du entscheidest anhand der Trainingsnutzung und der Zweckbestimmung, ob überhaupt Auftragsverarbeitung vorliegt, statt reflexhaft ein Formular zu unterschreiben.
Pflichtinhalte abhaken
Du gehst die vorgeschriebenen Vertragsinhalte durch und erkennst, welche davon bei KI-Diensten typischerweise zu unbestimmt formuliert sind.
Datenklassen festlegen
Du legst je Werkzeug fest, welche Datenarten hinein dürfen. Ohne diese Grenze ist die Angabe zur Art der Daten im Vertrag wertlos.
Verarbeitungsort klären
Du fragst nach Region, Regionsbindung und Fernzugriff durch den Support und hältst die Antworten schriftlich fest, auch wenn sie mündlich kommen.
Unterauftragnehmer verfolgen
Du weißt, ob eine Liste existiert, wie du über Änderungen erfährst und welche Widerspruchsfrist dir bleibt, bevor ein neuer Dienstleister mitliest.
Freigabe an Einstellungen binden
Du hältst fest, welche Konfiguration die Freigabe voraussetzt, damit ein Tarifwechsel die Grundlage nicht still aushebelt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Die Rollenfrage entscheidet, welcher Vertrag überhaupt passt
Auftragsverarbeitung setzt Weisungsgebundenheit voraus. Der Dienstleister verarbeitet für dich, nach deinen Vorgaben, ohne selbst über Zwecke und Mittel zu bestimmen. Prüft man KI-Dienste an diesem Maßstab, fallen zwei Konstellationen auseinander: der Dienst, der Eingaben verarbeitet und wieder vergisst, und der Dienst, der Eingaben behält, um damit sein Modell zu verbessern.
Die zweite Konstellation ist keine Auftragsverarbeitung mehr, jedenfalls nicht für diesen Teil. Der Anbieter verfolgt dabei einen eigenen Zweck, und dafür braucht es eine eigene Rechtsgrundlage, die dein Vertrag zur Auftragsverarbeitung nicht liefert. Die Datenschutzkonferenz und der Europäische Datenschutzausschuss vertreten diese Bewertung ausdrücklich, du musst sie also nicht selbst erfinden. Deshalb ist der wichtigste Satz in der Prüfung nicht juristisch, sondern technisch: Werden Eingaben zum Training verwendet, und wenn ja, in welchem Tarif nicht mehr?
Die Antwort steht selten in einem einzigen Dokument. Sie verteilt sich auf die allgemeinen Nutzungsbedingungen, ein separates Datenschutzdokument für Geschäftskunden und die Beschreibung des gebuchten Tarifs. Wenn sich diese drei widersprechen, gilt für deine Prüfung der ungünstigste Fall, bis der Anbieter es schriftlich klarstellt.
Was im Vertrag stehen muss
Artikel 28 der Datenschutz-Grundverordnung gibt den Inhalt vor, und die Liste ist bei KI-Diensten dieselbe wie bei jedem anderen Auftragsverarbeiter: Gegenstand und Dauer, Art und Zweck der Verarbeitung, die Arten der Daten und die Kategorien betroffener Personen, die Bindung an dokumentierte Weisungen, die Vertraulichkeit der eingesetzten Personen, technische und organisatorische Maßnahmen, die Regelung zu weiteren Auftragsverarbeitern, die Unterstützung bei Betroffenenrechten, die Löschung oder Rückgabe am Ende und die Nachweise, mit denen du das überprüfen kannst.
Was diese Liste bei KI-Diensten besonders macht, sind zwei Einträge. Die Arten der Daten sind hier schwer einzugrenzen, weil Beschäftigte alles eingeben können, was gerade auf dem Bildschirm liegt. Und die Löschung am Ende betrifft nicht nur eine Datenbank, sondern auch Protokolle, Zwischenspeicher und je nach Aufbau einen Suchindex.
Deshalb gehört zur Vertragsprüfung eine eigene Festlegung: Welche Datenklassen dürfen überhaupt in dieses Werkzeug? Ohne diese Grenze ist die Angabe im Vertrag eine Behauptung, die der erste Arbeitstag widerlegt.
Die Stellen, die Anbieter regelmäßig offenlassen
Fünf Punkte tauchen in Prüfungen immer wieder als Lücke auf. Erstens die weiteren Auftragsverarbeiter: Statt einer Liste gibt es einen Link auf eine Seite, die sich jederzeit ändern kann, und statt eines Zustimmungsrechts nur ein Widerspruchsrecht mit sehr kurzer Frist. Zweitens der Ort der Verarbeitung: Angaben wie weltweit oder nach Verfügbarkeit sind für ein Verzeichnis der Verarbeitungstätigkeiten unbrauchbar.
Drittens die Löschfristen: Häufig steht dort, dass Daten für einen begrenzten Zeitraum zur Missbrauchserkennung aufbewahrt werden, ohne dass die Dauer beziffert ist. Viertens der Zugriff durch den Support: Dass Mitarbeitende des Anbieters Eingaben im Rahmen der Fehlersuche einsehen können, steht oft nur in einer Fußnote. Fünftens die Kontrollrechte: Aus dem Recht auf Überprüfung wird die Vorlage eines Prüfberichts, der Jahre alt sein kann.
Keiner dieser Punkte ist automatisch ein Ausschlusskriterium. Sie müssen nur bekannt sein, bevor die Freigabe erteilt wird, weil sie darüber entscheiden, welche Datenklassen du zulässt. Ein Dienst ohne bezifferte Löschfrist kann für Entwürfe ohne Personenbezug völlig in Ordnung sein und für Bewerbungsunterlagen nicht.
Drittland, Zugriff und die Frage nach dem Support
Wenn die Verarbeitung außerhalb der Europäischen Union stattfindet oder von dort aus zugegriffen werden kann, braucht der Transfer eine eigene Grundlage. In der Praxis prüfst du zwei Dinge: worauf sich der Anbieter stützt, und ob es eine Zusicherung gibt, dass die Verarbeitung tatsächlich in einer bestimmten Region stattfindet. Viele Anbieter bieten eine solche Regionsbindung an, aber nur in bestimmten Tarifen und manchmal nicht für alle Funktionen.
Der zweite Punkt ist der Fernzugriff. Selbst wenn die Daten in Europa liegen, kann ein Supportteam von außerhalb darauf schauen. Das ist eine Übermittlung, und sie gehört mit in die Betrachtung. Frag konkret, unter welchen Bedingungen Support Eingaben einsehen kann und ob das protokolliert wird.
Notiere die Antworten schriftlich, auch wenn sie mündlich kommen. Bei der nächsten Prüfung, spätestens beim nächsten Tarifwechsel, ist niemand mehr im Haus, der sich an das Gespräch erinnert.
Was du dokumentierst, bevor du freigibst
Vier Unterlagen genügen für den Regelfall: die schriftliche Feststellung der Rolle mit Begründung, der abgeschlossene Vertrag mit Datum und Fassung, die Beschreibung der technischen und organisatorischen Maßnahmen als Anlage und der Eintrag im Verzeichnis der Verarbeitungstätigkeiten mit den zugelassenen Datenklassen.
Dazu kommt eine Notiz darüber, welche Einstellungen die Prüfung vorausgesetzt hat, etwa dass die Trainingsnutzung deaktiviert und die Aufbewahrung im Konto begrenzt ist. Diese Einstellungen wandern gern zurück, wenn ein Tarif wechselt oder ein Konto neu aufgesetzt wird, und dann stimmt die Grundlage der Freigabe nicht mehr.
Der letzte Schritt ist die Wiedervorlage. Anbieterbedingungen in diesem Feld ändern sich häufiger als in jedem anderen Bereich, und eine Freigabe ohne Termin zur Überprüfung veraltet still.
Dazu passende Kurse
Wer diese Prüfung regelmäßig führen muss, findet den Aufbau dafür in Weiterbildungen für den Datenschutz bei KI-Diensten .
Damit im Fachbereich niemand am Verfahren vorbei etwas einführt, helfen Schulungen zur Prüfung neuer KI-Werkzeuge .
Wie sicher bist du beim Thema wirklich?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
Häufige Fragen
Reicht es, wenn der Anbieter den Vertrag auf seiner Website bereitstellt?
Brauche ich einen Vertrag, wenn keine personenbezogenen Daten eingegeben werden?
Der Anbieter nennt seine Unterauftragnehmer nicht namentlich. Was nun?
Was ist mit KI-Funktionen, die in eine bestehende Software eingebaut werden?
Quellen
- Verordnung (EU) 2016/679 (DSGVO), Artikel 28 zur Auftragsverarbeitung
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz
- Datenschutzkonferenz: Orientierungshilfe Technische und organisatorische Maßnahmen bei KI-Systemen, Juni 2025
- Europäischer Datenschutzausschuss, Stellungnahme 28/2024 zu KI-Modellen und personenbezogenen Daten
Deine Ansprechpartner
Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.
Norbert Jansen
Beratung & Inhouse
Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.
Aus der Prüfung wird ein wiederholbares Verfahren
In einem Seminar entsteht aus diesen Fragen eine feste Reihenfolge für die eigene Beschaffung, die auch beim nächsten Werkzeug trägt und nicht bei jedem Anbieter neu erfunden werden muss.