Ein Deepfake ist ein Bild, Video oder eine Tonaufnahme, die mit KI so erzeugt oder verändert wurde, dass sie täuschend echt wirkt. Für DACH-KMU ist das aus zwei Gründen relevant. Betrüger nutzen gefälschte Stimmen und Videos gezielt gegen Firmen. Und wer KI-Inhalte veröffentlicht, die reale Personen, Orte oder Ereignisse täuschend echt nachbilden, muss die Offenlegungspflichten der EU-KI-Verordnung beachten.
Was bedeutet Deepfake?
Der Begriff ist ein Kofferwort aus “Deep Learning” und “Fake”. Gemeint sind Inhalte, die ein KI-Modell so erstellt, dass sie echten Personen, Orten oder Ereignissen ähneln. Typische Beispiele sind ein Videoclip, in dem das Gesicht einer Person ausgetauscht wurde, oder ein Anruf mit einer nachgebauten Stimme. Die Technik dahinter ist generative KI, etwa Diffusionsmodelle für Bilder und Videos oder Voice Cloning für Stimmen.
Die EU-KI-Verordnung definiert den Begriff in Art. 3 Nr. 60 ausdrücklich. Danach sind Deepfakes durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden. Ein generisches KI-Bild ohne Bezug zu realen Personen oder Orten, etwa eine abstrakte Illustration für einen Blogartikel, ist nach dieser Definition kein Deepfake.
Warum ist ein Deepfake für mein Unternehmen wichtig?
Es gibt zwei Perspektiven: die Gefahr von außen und die eigene Nutzung.
Gefahr von außen: Gefälschte Stimmen und Videos machen klassische Betrugsmaschen glaubwürdiger. Beim sogenannten CEO-Fraud ruft jemand mit der nachgebauten Stimme der Geschäftsführung in der Buchhaltung an und verlangt eine eilige Überweisung. Auch Bewerbungsgespräche per Video oder gefälschte Kundenbeschwerden mit manipulierten Beweisfotos sind denkbar. Informelle Abläufe und wenige Kontrollstufen können solche Angriffe erleichtern.
Eigene Nutzung: Viele Marketing- und Schulungstools erzeugen Avatare oder klonen Stimmen. Das ist erlaubt, braucht aber eine saubere Grundlage. Bild und Stimme einer realen Person sind personenbezogene Daten und unterliegen der DSGVO. Ohne ausdrückliche Einwilligung der abgebildeten Person solltest du keine Deepfakes erstellen, auch nicht von Mitarbeitenden oder Kunden. Zusätzlich greifen in Deutschland das Recht am eigenen Bild und das allgemeine Persönlichkeitsrecht. Ob ein konkreter Fall zulässig ist, klärt im Zweifel eine Rechtsberatung.
Kennzeichnungspflicht nach der EU-KI-Verordnung
Art. 50 der KI-Verordnung regelt Transparenz. Betreiber, die einen Deepfake veröffentlichen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für erkennbar künstlerische, satirische oder fiktionale Werke gilt eine abgeschwächte Pflicht: Die Offenlegung darf so erfolgen, dass sie die Darstellung nicht beeinträchtigt. Anbieter von KI-Systemen müssen ihre Ausgaben zudem maschinenlesbar markieren, zum Beispiel durch Wasserzeichen oder Metadaten.
Das betrifft nicht jede KI-Nutzung. Reine Hilfsfunktionen wie Rechtschreibkorrektur oder Standardbearbeitung ohne wesentliche inhaltliche Veränderung fallen nicht darunter. Auch ein Deepfake ist nicht automatisch ein Hochrisiko-System, die Transparenzpflicht gilt unabhängig davon. Die Offenlegungspflicht für Betreiber gilt laut Kommission seit dem 2. August 2026. Eine Übergangsfrist bis 2. Dezember 2026 betrifft nur die maschinenlesbare Markierung durch Anbieter von Systemen, die schon vor dem 2. August 2026 auf dem Markt waren (Stand: 2026-10).
Deepfakes in der Praxis: Schutz vor Betrug
Stell dir vor, eine Mitarbeiterin in der Buchhaltung bekommt einen Anruf. Die Stimme klingt exakt wie die der Geschäftsführerin und verlangt eine Überweisung an einen neuen Lieferanten, dringend und vertraulich. Mit diesen Maßnahmen schützt du dich:
- Rückruf über eine bekannte Nummer: Bei ungewöhnlichen Zahlungswünschen immer über die gespeicherte Nummer zurückrufen, nie über die des Anrufs.
- Vier-Augen-Prinzip: Überweisungen über einem festgelegten Betrag brauchen eine zweite Freigabe. Das entspricht dem Prinzip Human in the Loop: Ein Mensch prüft, bevor etwas Folgenreiches passiert.
- Codewort: Vereinbart intern ein Codewort für dringende Anweisungen per Telefon oder Video.
- Schulung: Zeige dem Team Beispiele. Wer weiß, dass geklonte Stimmen existieren, wird eher misstrauisch.
Verlass dich nicht darauf, Fälschungen am Bild zu erkennen. Auffälligkeiten bei Lippenbewegung, Blinzeln oder Hintergrund helfen manchmal, Erkennungstools sind aber nicht durchgehend zuverlässig. Wirksamer sind Prozesse, die auch bei perfekter Fälschung funktionieren.
Häufige Fragen
Sind Deepfakes in Deutschland verboten?
Nicht pauschal. Die Technik selbst ist erlaubt, etwa für Film, Satire oder Schulungsvideos mit Einwilligung. Rechtlich problematisch wird es, wenn Persönlichkeitsrechte verletzt werden, wenn Personen ohne Einwilligung dargestellt werden oder wenn Deepfakes für Betrug, Rufschädigung oder Erpressung genutzt werden. Dann können je nach Fall zivil- und strafrechtliche Folgen entstehen. Lass konkrete Vorhaben rechtlich prüfen.
Muss ich KI-generierte Videos mit einem Avatar kennzeichnen?
Wenn der Avatar einer realen Person ähnelt und das Video echt wirken kann, handelt es sich um einen Deepfake im Sinne der EU-KI-Verordnung. Dann musst du die künstliche Erzeugung offenlegen. Bei klar erkennbaren Fantasiefiguren oder Zeichentrick-Maskottchen ohne Bezug zu einer realen Person gilt die Definition nicht. Die Offenlegungspflicht für Betreiber gilt seit dem 2. August 2026 (Stand: 2026-10).
Wie erkenne ich einen Deepfake-Anruf?
Sicher erkennen lässt sich ein Fake am Gehör oder Bild oft nicht. Verdächtig sind Zeitdruck, Geheimhaltung und ungewöhnliche Zahlungswünsche. Lege deshalb feste Abläufe fest: Rückruf über eine bekannte Nummer, ein Codewort und eine zweite Freigabe bei Überweisungen.
Darf ich die Stimme oder das Gesicht von Mitarbeitenden für KI-Avatare nutzen?
Nur mit ausdrücklicher, freiwilliger Einwilligung. Stimme und Gesicht sind personenbezogene Daten, und im Beschäftigungsverhältnis ist die Freiwilligkeit besonders sorgfältig zu prüfen. Halte Zweck, Dauer und Widerrufsmöglichkeit schriftlich fest und kläre die Details mit deiner Datenschutzberatung.