Wer haftet, wenn die KI danebenliegt?

Anbieter und Betreiber sind zwei verschiedene Adressaten

Die KI-Verordnung unterscheidet zwischen dem, der ein System entwickelt und in Verkehr bringt, und dem, der es unter eigener Verantwortung einsetzt. Der erste schuldet die Eigenschaften des Produkts: Dokumentation, Datenqualität, technische Robustheit, Konformität. Der zweite schuldet den bestimmungsgemäßen Einsatz, die menschliche Aufsicht darüber und die Beobachtung im laufenden Betrieb.

Diese Trennung wird im Alltag ständig übersprungen. Ein Ergebnis ist falsch, also war das Werkzeug schuld. Vor Gericht zählt aber zuerst, wer gegenüber der geschädigten Person aufgetreten ist. Wenn dein Haus ein Angebot verschickt, eine Auskunft erteilt oder eine Entscheidung mitteilt, ist dein Haus der Vertragspartner. Der Regress beim Anbieter ist ein zweiter, deutlich schwierigerer Schritt.

Für den Betrieb heißt das, dass die Bedienungsanleitung des Anbieters keine Formsache ist. Wer ein System außerhalb des angegebenen Zwecks einsetzt, verliert genau das Argument, auf das er sich später stützen möchte, nämlich dass er es bestimmungsgemäß verwendet hat.

Wann du selbst zum Anbieter wirst

Es gibt drei Wege, auf denen die Anbieterrolle unbemerkt zu dir wandert. Der erste ist der eigene Name: Wer ein zugekauftes System unter eigener Marke bereitstellt, übernimmt die Pflichten des Anbieters. Der zweite ist die wesentliche Änderung, also ein Eingriff, der über die vorgesehene Konfiguration hinausgeht. Der dritte ist die Zweckänderung, wenn ein allgemein einsetzbares System für eine Aufgabe verwendet wird, die es in eine höhere Risikoklasse hebt.

In der Praxis passiert das selten durch eine bewusste Entscheidung, sondern durch Projektarbeit. Aus einem eingekauften Assistenten wird ein hausinternes Werkzeug mit eigenem Namen, eigenem Anmeldebildschirm und eigener Datenanbindung. Genau in dem Moment steht die Frage im Raum, wer für die technische Dokumentation und die Konformität geradesteht.

Das ist kein Argument gegen eigene Anwendungen, sondern eines für eine klare Feststellung vorab. Wer die Rolle bewusst übernimmt, plant Dokumentation und Prüfung mit ein. Wer sie unbemerkt übernimmt, entdeckt die Lücke erst, wenn jemand danach fragt.

Der Vertrag mit dem Anbieter verteilt das Risiko nicht gleichmäßig

Die Nutzungsbedingungen großer Anbieter schließen die Haftung für Ergebnisse regelmäßig so weit aus, wie es rechtlich zulässig ist, und verpflichten dich zusätzlich, das System nur im vorgesehenen Rahmen einzusetzen. Manche Anbieter sagen für bestimmte Tarife eine Freistellung bei urheberrechtlichen Ansprüchen zu, oft aber nur, wenn du bestimmte Schutzfunktionen aktiviert lässt. Diese Bedingungen unterscheiden sich je Anbieter und je Tarif und ändern sich.

Deshalb gehört vor die Freigabe eine Lektüre, die zwei Fragen beantwortet: Wofür steht der Anbieter tatsächlich ein, und welche Pflichten legt er mir dabei auf? Wenn eine zugesagte Freistellung an eine Einstellung geknüpft ist, muss diese Einstellung überwacht werden, sonst ist die Zusage im Ernstfall wertlos.

Für die eigene Seite gilt dasselbe umgekehrt. Was du im Kundenvertrag über Ergebnisse aus KI-Unterstützung zusicherst, muss durch deine internen Prüfschritte gedeckt sein. Eine Zusage, dass alle Inhalte fachlich geprüft sind, ist schnell geschrieben und schwer einzuhalten, wenn niemand festgelegt hat, wer prüft.

Neben dem Vertrag steht die Produkthaftung, und die hat sich gerade geändert. Die Richtlinie (EU) 2024/2853 zählt Software und KI-Systeme ausdrücklich zu den Produkten und erfasst auch Schäden durch Datenverlust. Sie ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen, und sie richtet sich an Hersteller, nicht an dich als Anwender. Wichtig ist sie für dich aus zwei Gründen: Sie eröffnet einen zweiten Weg zum Anbieter neben dem Vertrag, und sie trifft dich selbst, sobald du ein System wesentlich veränderst oder unter eigenem Namen bereitstellst.

Wer im Haus geradesteht, wenn der Fehler intern entstanden ist

Beschäftigte haften für Schäden aus betrieblich veranlasster Tätigkeit nach deutschem Arbeitsrecht nur eingeschränkt und abgestuft nach dem Grad des Verschuldens. Wer ein freigegebenes Werkzeug im vorgesehenen Rahmen nutzt und dabei einen Fehler übersieht, trägt in aller Regel nicht den Schaden. Das Bild ändert sich, wenn jemand bewusst gegen eine klare Anweisung verstößt, etwa Kundendaten in einen nicht freigegebenen Dienst gibt.

Daraus folgt eine unbequeme Konsequenz für die Leitungsebene: Je unklarer die Regeln, desto weiter wandert die Verantwortung nach oben. Ohne Positivliste, ohne benannte Datenklassen und ohne Prüfschritt vor der Außenwirkung lässt sich schwer begründen, dass eine einzelne Person pflichtwidrig gehandelt hat.

Umgekehrt entlastet eine dokumentierte Organisation das Haus. Wer belegen kann, dass Werkzeuge geprüft, Regeln erklärt und Prüfschritte festgelegt waren, argumentiert über Sorgfalt statt über Zufall.

Welche Belege im Streitfall tatsächlich zählen

Der Streit dreht sich fast nie um die Frage, ob eine KI beteiligt war, sondern darum, ob mit angemessener Sorgfalt gearbeitet wurde. Dafür brauchst du vier Dinge: die Feststellung, welches System in welchem Stand im Einsatz war, den Nachweis, dass es freigegeben war, den dokumentierten Prüfschritt vor der Außenwirkung und den Nachweis, dass die beteiligten Personen eingewiesen waren.

Am häufigsten fehlt der dritte Punkt. Es gibt eine Richtlinie, es gibt eine Freigabeliste, aber niemand kann zeigen, wer das konkrete Schreiben gegengelesen hat. Ein kurzer Vermerk im Dokument oder im Vorgang kostet Sekunden und ist im Zweifel der einzige Unterschied zwischen erklärbarem Ablauf und Behauptung.

Genauso häufig unterschätzt wird der Versionsstand. Modelle werden im Hintergrund ausgetauscht, und ein Ergebnis von vor drei Monaten lässt sich später oft nicht mehr reproduzieren. Wer bei heiklen Vorgängen Eingabe und Ausgabe zusammen mit dem Datum ablegt, kann später wenigstens zeigen, worauf die Entscheidung beruhte.