Wann ein Deepfake offengelegt werden muss
Vom Avatar im Schulungsvideo bis zur synthetischen Ansagestimme: Diese Seite ordnet die betrieblichen Anlässe und benennt, wer die Offenlegung tatsächlich schuldet.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der Begriff klingt nach Kriminalfall und meint den eigenen Betrieb
Solange Deepfake nach Wahlkampf und Betrug klingt, fühlt sich in der Unternehmenskommunikation niemand angesprochen. Gleichzeitig wächst der Bestand an Avataren in Schulungsvideos, synthetischen Stimmen in Ansagen und generierten Gesichtern in Kampagnen, weil die Produktion damit schneller und billiger wird.
Die Offenlegungspflicht knüpft aber nicht an die Absicht an, sondern daran, ob der Inhalt für echt gehalten werden kann. Genau das ist bei einer gelungenen Produktion der Fall, und je besser das Ergebnis, desto sicherer greift die Pflicht.
Der Schaden entsteht selten durch eine Behörde. Er entsteht, wenn jemand nachträglich merkt, dass die Person im Video nie existiert oder nie gesprochen hat. Vertrauen, das so verloren geht, kommt mit keiner Klarstellung zurück.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Wer entscheidet was
| Thema | Wer entscheidet | Wer setzt um | Stolperfalle |
|---|---|---|---|
| Einsatz eines Avatars in der Kommunikation | Die Leitung des einsetzenden Bereichs, mit Votum von Recht und Datenschutz | Die Produktion oder die beauftragte Agentur, mit der Offenlegung im Bild | Der Hinweis wird im Abspann untergebracht, wo ihn kaum jemand erreicht. |
| Nachbildung einer realen Stimme oder eines Gesichts | Die betroffene Person selbst, über eine schriftliche Einwilligung | Die Personalabteilung gemeinsam mit Recht | Die Einwilligung regelt die Produktion, aber nicht, was nach dem Ausscheiden mit dem Modell geschieht. |
| Auftragsproduktion durch eine Agentur | Einkauf gemeinsam mit dem Fachbereich | Die Agentur, sofern es im Leistungsverzeichnis steht | Die Offenlegung ist nicht Teil der Lieferung und fällt nach der Abnahme intern an. |
| Schutz vor Fälschungen von außen | Die Geschäftsführung, für die Freigabe von Zahlungen | Buchhaltung und IT-Sicherheit, über einen zweiten Kanal | Die Regel gilt für Überweisungen, aber nicht für Änderungen an hinterlegten Bankverbindungen. |
| Aufklärung der Belegschaft | Interne Kommunikation gemeinsam mit der Leitung | Die Führungskräfte, in der eigenen Bereichsrunde | Es wird vor Deepfakes gewarnt, aber nicht gesagt, wo im Haus welche eingesetzt werden. |
Einsatz eines Avatars in der Kommunikation
- Wer entscheidet
- Die Leitung des einsetzenden Bereichs, mit Votum von Recht und Datenschutz
- Wer setzt um
- Die Produktion oder die beauftragte Agentur, mit der Offenlegung im Bild
- Stolperfalle
- Der Hinweis wird im Abspann untergebracht, wo ihn kaum jemand erreicht.
Nachbildung einer realen Stimme oder eines Gesichts
- Wer entscheidet
- Die betroffene Person selbst, über eine schriftliche Einwilligung
- Wer setzt um
- Die Personalabteilung gemeinsam mit Recht
- Stolperfalle
- Die Einwilligung regelt die Produktion, aber nicht, was nach dem Ausscheiden mit dem Modell geschieht.
Auftragsproduktion durch eine Agentur
- Wer entscheidet
- Einkauf gemeinsam mit dem Fachbereich
- Wer setzt um
- Die Agentur, sofern es im Leistungsverzeichnis steht
- Stolperfalle
- Die Offenlegung ist nicht Teil der Lieferung und fällt nach der Abnahme intern an.
Schutz vor Fälschungen von außen
- Wer entscheidet
- Die Geschäftsführung, für die Freigabe von Zahlungen
- Wer setzt um
- Buchhaltung und IT-Sicherheit, über einen zweiten Kanal
- Stolperfalle
- Die Regel gilt für Überweisungen, aber nicht für Änderungen an hinterlegten Bankverbindungen.
Aufklärung der Belegschaft
- Wer entscheidet
- Interne Kommunikation gemeinsam mit der Leitung
- Wer setzt um
- Die Führungskräfte, in der eigenen Bereichsrunde
- Stolperfalle
- Es wird vor Deepfakes gewarnt, aber nicht gesagt, wo im Haus welche eingesetzt werden.
Vom Anlass zur Offenlegung in fünf Schritten
- 01 Ein Inhalt bildet eine reale Person, einen Ort oder ein Ereignis nach.
- 02 Er wirkt auf das Publikum wie eine echte Aufnahme.
- 03 Die betroffene Person hat der Nachbildung schriftlich zugestimmt.
- 04 Die Offenlegung steht im Bild und nicht erst im Abspann.
- 05 Der Hinweis bleibt erhalten, wenn ein Ausschnitt weiterwandert.
Was du danach im eigenen Haus regeln kannst
Die Pflicht selbst ist überschaubar. Aufwendig ist die Vorarbeit, die sie auslöst, und die lässt sich in wenigen Punkten fassen.
Fälle im Haus erkennen
Du findest die Stellen, an denen bereits synthetische Personen, Stimmen oder Szenen im Einsatz sind, auch dort, wo niemand von Deepfakes gesprochen hätte.
Echtheitswirkung beurteilen
Du entscheidest anhand des Eindrucks beim Publikum und nicht anhand der eingesetzten Technik oder der guten Absicht.
Einwilligung sauber holen
Du klärst Zweck, Kanäle, Dauer und den Fall des Ausscheidens, bevor eine reale Stimme oder ein reales Gesicht nachgebildet wird.
Agenturvertrag ergänzen
Du machst die Offenlegung zum Bestandteil der Lieferung, statt sie nach der Abnahme intern nachzuziehen.
Hinweis sichtbar platzieren
Du setzt die Offenlegung ins Bild oder unmittelbar daneben, weil ein Vermerk im Abspann die Wahrnehmung nicht erreicht.
Zweiten Kanal einführen
Du sicherst Zahlungsfreigaben und Änderungen an Bankverbindungen über einen zweiten, getrennten Rückweg ab, gleichgültig wie echt eine Stimme klingt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Der Begriff trifft mehr betriebliche Fälle als erwartet
Die meisten denken bei Deepfakes an gefälschte Videos von Politikern. Betrieblich sieht der Regelfall harmloser aus: ein Schulungsvideo, in dem ein Avatar die Rolle einer Führungskraft übernimmt, eine synthetische Stimme für eine Telefonansage, ein Erklärvideo mit einer generierten Person, die wie eine Mitarbeiterin auftritt.
Entscheidend ist die Ähnlichkeit mit etwas Realem und der Eindruck von Echtheit, nicht die Absicht. Wer ein Video mit dem generierten Abbild des eigenen Geschäftsführers produziert, um Drehtage zu sparen, erzeugt denselben Eindruck wie jemand mit schlechten Absichten, und die Offenlegung hängt am Eindruck.
Umgekehrt fällt vieles heraus. Ein erkennbar gezeichneter Avatar ohne Anspruch auf Echtheit, eine offensichtlich maschinell klingende Ansagestimme, die niemandem nachempfunden ist, eine Animation ohne reale Vorlage. Die Einordnung hängt daran, ob jemand den Inhalt für eine Aufnahme aus der Wirklichkeit halten könnte.
Wer die Offenlegung schuldet
Die Pflicht trifft den Betreiber, also das Unternehmen, das den Inhalt einsetzt, nicht die Agentur, die ihn produziert hat, und nicht den Anbieter des Werkzeugs. Der Anbieter schuldet die maschinenlesbare Markierung der Ausgabe, ihr schuldet den wahrnehmbaren Hinweis.
Bei Auftragsproduktionen ist das der Punkt, an dem Verträge unvollständig sind. Die Agentur liefert ein fertiges Video, die Offenlegung bleibt bei euch hängen, und niemand hat festgelegt, ob der Hinweis Teil der Lieferung ist. Ein Satz im Leistungsverzeichnis erspart die Diskussion nach der Abnahme.
Für ausdrücklich künstlerische, kreative oder satirische Arbeiten sieht die Verordnung eine zurückhaltendere Form der Offenlegung vor, die die Darstellung nicht beeinträchtigt. Für Unternehmenskommunikation ist das keine gangbare Auslegung.
Zwei Rechtsfragen daneben, die den Ausschlag geben
Wer das Gesicht oder die Stimme einer realen Person nachbildet, braucht deren Einwilligung. Das folgt nicht aus der KI-Verordnung, sondern beim Bild aus Paragraf 22 Kunsturhebergesetz und bei der Stimme aus dem allgemeinen Persönlichkeitsrecht, und es gilt auch dann, wenn die Person im eigenen Haus arbeitet. Eine allgemeine Klausel im Arbeitsvertrag deckt einen digitalen Doppelgänger in aller Regel nicht ab.
Die zweite Frage ist die Reichweite über die Zeit. Ein Avatar, der auf der Stimme einer Beschäftigten beruht, überlebt deren Beschäftigungsverhältnis. Ohne eine Regelung dazu, was nach dem Ausscheiden mit dem Modell und den Aufnahmen geschieht, entsteht ein Konflikt, an den im Produktionsstress niemand gedacht hat.
Beides gehört in dieselbe Einwilligung: Zweck, Kanäle, Dauer, was bei Widerruf passiert und ob das Material für das Training weiterer Modelle verwendet werden darf. Das ist eine halbe Seite Text und spart eine unangenehme Auseinandersetzung.
Die Angriffsseite gehört in dieselbe Runde
Dieselbe Technik kommt von außen zurück. Der bekannte Fall ist der Anruf einer vermeintlichen Führungskraft, die eine dringende Überweisung anweist. Wer intern Avatare und synthetische Stimmen einsetzt, senkt die Hemmschwelle dafür, weil das Ungewöhnliche zum Gewohnten wird.
Die wirksame Gegenmaßnahme ist organisatorisch, nicht technisch: ein zweiter, getrennter Kanal für Zahlungsfreigaben und für Änderungen an Bankverbindungen, und zwar gleichgültig, wie überzeugend eine Stimme klingt. Diese Regel kostet nichts und wirkt gegen jede Qualität der Fälschung.
Wenn ihr Avatare einsetzt, sagt es der Belegschaft ausdrücklich und benennt, in welchen Kanälen das vorkommt und in welchen nie. Ein Team, das weiß, dass Zahlungsanweisungen niemals per Video kommen, ist besser geschützt als eines, das gelernt hat, Videos für glaubwürdig zu halten.
Dazu passende Kurse
Wo die Grenze zwischen wirkungsvoller Produktion und Täuschung verläuft, klären Weiterbildungen zu Verantwortung bei synthetischen Medien an konkreten Beispielen.
Für die Gegenrichtung, also Fälschungen, die euch treffen sollen, gibt es Angebote zur Abwehr synthetischer Angriffe .
Wie sicher bist du beim Thema wirklich?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Die Inhalte wurden sehr gut vermittelt und Fragen wurden perfekt beantwortet.
Marco ist ein extrem guter Trainer, der mit seinem Fachwissen zum Thema KI sehr viel Expertise mitbringt.
Seminarleiter war sehr gut vorbereitet, Den Lehrstoff hat er ausführlich und praxisorientiert vorgetragen.
Häufige Fragen
Gilt die Offenlegung auch für rein interne Videos?
Reicht ein Hinweis im Abspann?
Was ist mit dem Avatar eines Menschen, den es gar nicht gibt?
Wir lassen extern produzieren. Ändert das etwas?
Deine Ansprechpartner
Du bist dir nicht sicher, welcher Kurs oder welches Level zu dir passt? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Hilft dir, aus dem KI-Programm den passenden Kurs für deinen Stand zu finden.
Norbert Jansen
Beratung & Inhouse
Plant mit dir Inhouse-Trainings, die auf eure Abläufe und euren Datenbestand zugeschnitten sind.
Avatare und Stimmen brauchen vorher eine Linie
Bevor die erste Produktion läuft, lohnt sich eine gemeinsame Runde, in der Ethik, Einwilligung und Offenlegung an den eigenen Vorhaben durchgesprochen werden.