Die KI-Kennzeichnungspflicht nach Art. 50 des AI Act verlangt, dass Menschen erkennen können, wann sie mit einer KI sprechen oder KI-erzeugte Inhalte sehen. Für KMU sind vor allem Chatbots auf der Website, KI-Bilder, Deepfakes und bestimmte veröffentlichte KI-Texte relevant. Kurz gesagt: Wenn Kunden sonst glauben könnten, ein Mensch habe etwas gesagt oder aufgenommen, solltest du einen klaren Hinweis geben.
Was bedeutet die KI-Kennzeichnungspflicht nach Art. 50 AI Act?
Art. 50 der EU-KI-Verordnung (VO (EU) 2024/1689) ist die zentrale Transparenzvorschrift. Er enthält vier Pflichten:
- Interaktion mit KI (Abs. 1): Anbieter müssen Systeme, die direkt mit Menschen kommunizieren, so gestalten, dass Nutzer erkennen, dass sie mit einer KI zu tun haben. Das gilt nicht, wenn es offensichtlich ist.
- Maschinenlesbare Markierung (Abs. 2): Anbieter von Systemen, die Audio, Bild, Video oder Text erzeugen, müssen die Ergebnisse technisch als künstlich erzeugt markieren.
- Emotionserkennung und biometrische Kategorisierung (Abs. 3): Betreiber müssen die betroffenen Personen informieren. Das betrifft Systeme, die Emotionen erkennen oder Menschen anhand biometrischer Daten kategorisieren, nicht gängige Text- oder Bildtools.
- Deepfakes und Texte von öffentlichem Interesse (Abs. 4): Betreiber müssen offenlegen, dass Bild-, Audio- oder Videoinhalte künstlich erzeugt oder verändert wurden. Das Gleiche gilt für KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren. Ausgenommen sind Texte, die ein Mensch redaktionell geprüft hat und für die jemand die Verantwortung trägt.
Anbieter ist, wer ein KI-System entwickelt oder auf den Markt bringt. Betreiber ist, wer es beruflich einsetzt. Wenn du ein fertiges KI-Tool nutzt, bist du Betreiber.
Warum ist die Kennzeichnungspflicht für mein Unternehmen wichtig?
Art. 50 gilt nach Art. 113 der Verordnung ab dem 02.08.2026. Der Digital Omnibus zur KI-Verordnung ist seit dem 27.07.2026 in Kraft. Laut einer Analyse der Kanzlei Bird & Bird verschiebt er vor allem die Hochrisiko-Fristen. Für Art. 50 Abs. 2 sieht er eine Übergangsfrist bis zum 02.12.2026 vor, aber nur für Anbieter, deren Systeme bereits vor dem 02.08.2026 auf dem Markt waren. Die Pflichten aus Abs. 1, 3 und 4 gelten laut derselben Analyse seit dem 02.08.2026 ohne Übergangsfrist (Stand: 2026-10). Den verbindlichen Wortlaut findest du im Amtsblatt der EU auf eur-lex.europa.eu.
Wer Pflichten verletzt, riskiert Bußgelder. Die Verordnung nennt für Transparenzverstöße bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für KMU gilt nach der Verordnung jeweils der niedrigere der beiden Beträge.
Unklar ist, was als redaktionelle Prüfung gilt. Auch ob ein normaler Werbetext überhaupt ein „Thema von öffentlichem Interesse“ behandelt, ist nicht abschließend geklärt. Im Zweifel empfiehlt sich ein kurzer Hinweis. Dokumentiere außerdem, wer Inhalte prüft, zum Beispiel mit einem Vier-Augen-Prinzip und einem Faktencheck.
Die KI-Kennzeichnung in der Praxis
Ein Fahrradladen mit acht Beschäftigten setzt vier KI-Anwendungen ein:
- Website-Chatbot: Beim Start steht sichtbar „Du schreibst mit unserem KI-Assistenten“. Die Pflicht zur Gestaltung liegt nach Abs. 1 beim Anbieter des Tools. Den Hinweis solltest du als Betreiber trotzdem nicht verstecken.
- KI-Produktbilder: Ein Label wie „KI-generiert“ an oder unter dem Bild ist meist eine freiwillige Transparenzempfehlung. Pflicht nach Abs. 4 wird es erst, wenn das Bild eine reale Person, einen realen Ort oder ein reales Ereignis täuschend echt nachahmt. Ob das Tool die Datei zusätzlich selbst maschinenlesbar markiert, prüfst du beim Anbieter.
- Erklärvideo mit KI-Avatar: Ein Deepfake im Sinne der Norm ist es, wenn der Avatar eine reale Person nachahmt und Zuschauer ihn fälschlich für echt halten könnten. Realistisches Aussehen allein reicht nicht, ein erkennbar erfundener Avatar ist etwas anderes. Ein Einblendtext zu Beginn ist ein möglicher Hinweis. Ob er für das ganze Video reicht, klärst du beim Anbieter oder mit einer Rechtsberatung.
- Newsletter-Text: Pflicht nur bei veröffentlichten Texten zu Themen von öffentlichem Interesse ohne redaktionelle Prüfung, sonst freiwillig. Ein Satz am Ende, etwa „Dieser Newsletter enthält KI-unterstützte Inhalte“, ist ein möglicher Hinweis. Ein Mensch sollte den Text vorher prüfen (Human in the Loop).
Die Veröffentlichungspflicht für Texte nach Abs. 4 betrifft nur Texte, die tatsächlich veröffentlicht werden. Eine Rechtschreibkorrektur oder interne Recherche fällt daher nicht darunter. Die Pflichten aus Abs. 1 und 3 (direkte Interaktion, Emotionserkennung) hängen dagegen nicht davon ab, ob etwas veröffentlicht wird. Die Ausnahme der redaktionellen Prüfung gilt nur für Texte nach Abs. 4, nicht für Deepfakes.
DSGVO-Relevanz
Die Kennzeichnung ersetzt keine Datenschutzprüfung. Ein Chatbot verarbeitet personenbezogene Daten wie Namen, E-Mail-Adressen oder Bestellnummern. Dafür brauchst du eine Rechtsgrundlage und eine Datenschutzerklärung. Liegt eine Auftragsverarbeitung vor, gehört dazu ein AVV nach Art. 28 DSGVO.
Bei Anbietern mit Sitz in den USA kommt die Drittlandübermittlung dazu. Bei vielen Anbietern stehen Datenschutzfunktionen wie das Opt-out vom Modelltraining erst in bestimmten Tarifen zur Verfügung. Ob das beim jeweiligen Dienst gilt, solltest du direkt beim Anbieter prüfen (Stand: 2026-10). Außerdem solltest du keine Kundendaten in Newsletter-Texte oder KI-Bilder einfließen lassen, ohne die Zweckbindung zu beachten.
Dieser Text ist keine Rechtsberatung. Prüfe deinen Einzelfall mit einem Datenschutzbeauftragten oder einer Fachkanzlei.
Weiterführendes
Häufige Fragen
Muss ich jeden KI-Text auf meiner Website kennzeichnen?
Nicht automatisch. Die Textpflicht in Art. 50 Abs. 4 betrifft veröffentlichte KI-Texte zu Themen von öffentlichem Interesse und entfällt bei menschlicher redaktioneller Prüfung mit klarer Verantwortung. Was genau darunter fällt, ist nicht abschließend geklärt. Im Zweifel empfiehlt sich ein kurzer Hinweis.
Muss ich als KMU einen Chatbot auf meiner Website kennzeichnen?
Nutzer sollten klar erkennen, dass sie mit einer KI schreiben, außer es ist offensichtlich. Die Pflicht zur Gestaltung liegt nach Art. 50 Abs. 1 beim Anbieter des Systems. Ein sichtbarer Hinweis wie „Du schreibst mit einem KI-Assistenten“ gehört aber auch bei dir als Betreiber zur sauberen Umsetzung.
Wie hoch können Bußgelder bei fehlender KI-Kennzeichnung ausfallen?
Die KI-Verordnung nennt für Transparenzverstöße bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag. Wie hoch ein Bußgeld im Einzelfall ausfällt, hängt von der Behörde und den Umständen ab.
Weiterführende Artikel
Was du bei KI-generierten Werbemotiven zu Urheberrecht, Art. 50 AI Act und Tool-Lizenzen beachten musst.