Kurze Antwort
Wenn ein KI-Tool personenbezogene Daten unbeabsichtigt offenlegt, fehlerhaft verarbeitet oder verliert, gelten grundsätzlich dieselben Meldepflichten wie bei jedem anderen Datenschutzvorfall. Besteht ein Risiko für die Rechte und Freiheiten der betroffenen Personen, musst du den Vorfall binnen 72 Stunden nach Kenntnisnahme an die zuständige Aufsichtsbehörde melden (Art. 33 DSGVO). Ist ein hohes Risiko wahrscheinlich, kommt zusätzlich die Pflicht hinzu, die betroffenen Personen selbst zu informieren (Art. 34 DSGVO). Ob überhaupt personenbezogene Daten betroffen sind, hängt davon ab, was konkret in das KI-Tool eingegeben oder von ihm verarbeitet wurde – nicht jede Fehleingabe ist automatisch ein meldepflichtiger Vorfall.
Wichtig: Ein hoher DSGVO-Score bedeutet nicht automatisch einen aufsichtsbehördlich vertretbaren Einsatz im Einzelfall. Entscheidend sind auch die konkrete Nutzung, ein AVV und interne Datenschutzprozesse.
Praxisregel bei KI-Vorfällen: ✅ Schritt 1 – Bewerten: Vorfall und betroffene Daten prüfen – besteht ein Risiko für Rechte und Freiheiten der Betroffenen? ⚠️ Schritt 2 – Melden: Ergibt die Risikobewertung ein Risiko oder lässt sich ein Risiko nicht rechtzeitig ausschließen → Meldung an die Aufsichtsbehörde binnen 72 Stunden ab Kenntnisnahme (Art. 33 DSGVO). ⚠️ Schritt 3 – Informieren: Hohes Risiko festgestellt → zusätzlich Betroffene unverzüglich informieren (Art. 34 DSGVO). ✅ Immer: Vorfall dokumentieren – auch ohne Meldung, denn die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO gilt unabhängig vom Ergebnis der Risikoprüfung.
Was zählt als KI-bedingter Datenschutzvorfall?
Ein typisches Szenario: Ein Mitarbeitender fügt versehentlich eine Kundenliste mit Namen und E-Mail-Adressen in ein KI-Tool ein, um sie „schnell zusammenfassen zu lassen”. Auch eine falsch konfigurierte Schnittstelle, über die ein KI-Assistent auf interne Dokumente mit personenbezogenen Daten zugreift und diese in Antworten ausgibt, zählt dazu. Ebenso ein Datenabfluss über die Infrastruktur eines KI-Anbieters, etwa durch eine Sicherheitslücke beim Provider selbst.
Nicht jeder Vorfall ist gleich schwer: Ein Vorfall mit anonymisierten Testdaten ist rechtlich anders zu bewerten als einer mit Gesundheits- oder Finanzdaten. Die Einstufung des Risikos entscheidet, ob nur eine interne Dokumentation reicht oder eine Meldung an die Behörde nötig wird. Bei Unsicherheit gilt: lieber dokumentieren und im Zweifel eher zu viel als zu wenig festhalten.
Wer ist meldepflichtig – Unternehmen oder KI-Anbieter?
Meldepflichtig ist grundsätzlich der Verantwortliche im Sinne der DSGVO – bei den meisten KMU und Freelancern also das eigene Unternehmen, nicht der KI-Anbieter. Der KI-Anbieter tritt in der Regel als Auftragsverarbeiter auf und muss dich als Verantwortlichen unverzüglich informieren, sobald er selbst einen Vorfall feststellt (Art. 33 Abs. 2 DSGVO). Diese Pflicht steht unabhängig neben einem bestehenden AVV: Ein AVV regelt die Pflichten des Anbieters dir gegenüber, entbindet dich aber nicht von deiner eigenen Meldepflicht gegenüber der Aufsichtsbehörde.
Wichtig ist deshalb, in Verträgen und Datenschutzerklärungen der genutzten Tools zu prüfen, wie schnell und in welcher Form ein Anbieter im Ernstfall informiert. Fehlt eine klare Regelung dazu, entsteht ein erheblicher zusätzlicher Prüfaufwand im Vorfall selbst – wertvolle Zeit innerhalb der 72-Stunden-Frist geht so verloren.
Was passiert, wenn innerhalb von 72 Stunden noch nicht alle Informationen vorliegen?
Die 72-Stunden-Frist zwingt dich nicht dazu, den Vorfall bereits vollständig aufgeklärt zu haben. Nach Art. 33 Abs. 4 DSGVO kann eine erste Meldung mit den zu diesem Zeitpunkt verfügbaren Informationen erfolgen; weitere Angaben können anschließend ohne unangemessene Verzögerung nachgereicht werden. Wichtiger als Vollständigkeit ist deshalb, die Frist selbst einzuhalten und die Meldung schrittweise zu vervollständigen, statt aus Unsicherheit gar nicht oder verspätet zu melden.
Tool-Auswahl vor dem Vorfall
Wie gut du im Ernstfall vorbereitet bist, entscheidet sich meist schon vor dem Vorfall – bei der Auswahl der eingesetzten KI-Tools. Die folgenden DSGVO-Scores sind Risikoeinschätzungen, keine rechtlichen Bewertungen. Sie orientieren sich unter anderem daran, wie transparent ein Anbieter mit Serverstandort, AVV-Angebot und Drittlandtransfer umgeht – Faktoren, die im Vorfall direkt beeinflussen, wie schnell du reagieren kannst.
| Tool | DSGVO-Score | Preis | Am besten für |
|---|---|---|---|
| DeepSeek | 1,5/10 | Kostenloser Plan vorhanden, Bezahlpreise beim Anbieter prüfen | Schnelle Texte ohne sensible Daten |
| Microsoft 365 Copilot | 8,0/10 | ab 18 €/Monat | Team-/Unternehmenseinsatz mit Microsoft-Infrastruktur |
| GitHub Copilot | 7,5/10 | Preis beim Anbieter prüfen | Entwicklerteams, Code-Vervollständigung |
| Open Telekom Cloud | 7,0/10 | Preis beim Anbieter prüfen | Eigene KI-/Cloud-Workloads mit EU-Hosting |
| ChatGPT Plus | 5,0/10 | Kostenloser Plan vorhanden, Bezahlpreise beim Anbieter prüfen | Einzelnutzung, allgemeine Textaufgaben |
Warum diese Tools?
Wer schnell mal einen Text von einer KI zusammenfassen lassen will, greift oft reflexhaft zum nächstbesten kostenlosen Tool. Bei DeepSeek lohnt sich vorher ein zweiter Blick: Der Anbieter sitzt in China, Daten werden nach eigenen Angaben dorthin übertragen, und eine Teilnahme am Data Privacy Framework besteht nicht – in unserer Methodik einer der Hauptgründe für den niedrigen Score von 1,5/10.
Teams, die ohnehin mit Microsoft-Office arbeiten, kennen das Problem doppelter Werkzeuge im Alltag. Microsoft 365 Copilot setzt hier an, weil er direkt in bestehende Dokumente und Mails integriert ist. Details zur Konzernstruktur, EU-Datenverarbeitung und Cloud-Act-Einordnung ändern sich regelmäßig – die aktuell recherchierten Angaben dazu findest du auf der Microsoft 365 Copilot Toolseite, nicht in diesem Ratgeber.
Entwicklerteams stehen regelmäßig vor der Frage, wie viel internen Code sie in ein Vervollständigungstool eingeben dürfen. GitHub Copilot ist Teil des US-Konzerns Microsoft; die aktuell recherchierten Angaben zu DPF-Teilnahme und Cloud-Act-Einordnung findest du auf der GitHub Copilot Toolseite.
Wer eigene KI-Workloads oder sensible interne Daten verarbeiten möchte, ohne die Kontrolle über den Serverstandort abzugeben, landet häufig bei Open Telekom Cloud. Der Score von 7,0/10 ergibt sich in unserer Methodik vor allem aus dem deutschen Betreiber und dem EU-Hosting, das einen Drittlandtransfer in vielen Konstellationen vermeidet.
Für Freelancer, die unterwegs schnell einen Entwurf brauchen, bleibt ChatGPT Plus verbreitet. Wichtig: Nicht jeder OpenAI-Tarif enthält automatisch einen AVV – vor dem Einsatz solltest du prüfen, welcher Tarif tatsächlich einen AVV bereitstellt. Die aktuell recherchierten Angaben zu DPF-Teilnahme und Cloud-Act-Einordnung findest du auf der ChatGPT Plus Toolseite.
Was andere Tools problematisch macht
Abseits der bekannten Namen kursieren zahlreiche Nischen-KI-Tools ohne öffentlich einsehbare Datenschutzerklärung oder ohne klar benannten Serverstandort. Fehlt eine dokumentierte Aussage zu personenbezogenen Daten, zu einem AVV-Angebot oder zu einem etwaigen Drittlandtransfer, lässt sich im Vorfall kaum belastbar einschätzen, wo die Daten tatsächlich gelandet sind. Genau das erschwert die Risikobewertung nach Art. 33 DSGVO erheblich, weil die 72-Stunden-Frist unabhängig davon läuft, ob du diese Informationen bereits vorliegen hast.
Ein weiteres Problem sind Tools, die zwar mit „europäischen Servern” werben, aber keine Angaben zur Konzernstruktur des Anbieters machen. Ohne diese Angabe lässt sich nicht beurteilen, ob eine US-Muttergesellschaft im Hintergrund steht und der Cloud Act damit relevant wird. Nach unserer Recherche verzichten gerade kleinere Nischenanbieter häufig auf diese Transparenz – ein Umstand, den du vor dem produktiven Einsatz aktiv nachfragen solltest.
Muss ich Betroffene informieren, wenn ein KI-Anbieter Daten verliert?
Nur dann, wenn der Vorfall voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der betroffenen Personen darstellt (Art. 34 DSGVO). Waren die Daten verschlüsselt oder wurde das Risiko durch schnelle Folgemaßnahmen wirksam beseitigt, kann die Informationspflicht entfallen – das muss aber dokumentiert und im Einzelfall geprüft werden. Die Informationspflicht gegenüber Betroffenen ist unabhängig von der Meldepflicht gegenüber der Behörde zu prüfen: Beide können getrennt greifen, gemeinsam greifen oder auch beide entfallen, je nach Risikograd.
Methodik
Die DSGVO-Scores in diesem Artikel basieren auf unserer veröffentlichten Methodik (siehe /methodik) und fließen aus Kriterien wie Serverstandort, AVV-Verfügbarkeit, Trainings-Opt-out und Transparenz zum Drittlandtransfer zusammen. Sie sind Risikoeinschätzungen zum Recherchezeitpunkt, keine Rechtsgutachten, und ersetzen keine individuelle Prüfung im konkreten Vorfall.
Fazit & Empfehlung
Ein KI-bedingter Datenschutzvorfall unterscheidet sich rechtlich nicht grundsätzlich von anderen Vorfällen – die Herausforderung liegt eher darin, schnell zu erkennen, ob und welche personenbezogenen Daten betroffen waren. Ein hoher DSGVO-Score erleichtert die Einschätzung des Grundrisikos, ersetzt aber nicht die individuelle Prüfung im Ernstfall: Jeder Score muss individuell geprüft werden, bevor du daraus eine Entscheidung über Meldung oder Nicht-Meldung ableitest. Wer vorab AVV, Serverstandort und Vorfallsprozess der genutzten Tools kennt, gewinnt im Ernstfall wertvolle Zeit innerhalb der 72-Stunden-Frist.
Du willst nicht jeden Vertrag selbst prüfen? Unsere Tooltests zeigen pro KI-Tool: AVV, DPA, KI-Training, Cloud-Act-Risiko, DSGVO-Score.
Häufige Fragen
Muss ich einen KI-bedingten Datenschutzvorfall immer der Aufsichtsbehörde melden?
Nur wenn ein Risiko für die Rechte und Freiheiten der betroffenen Personen nicht ausgeschlossen werden kann. Ist das Risiko nachweislich gering, kann eine dokumentierte Entscheidung gegen eine Meldung ausreichen.
Was passiert, wenn ich die 72-Stunden-Frist verpasse?
Die 72-Stunden-Frist beginnt mit der Kenntnisnahme des Vorfalls durch dich als Verantwortlichen, nicht mit dem Vorfall selbst oder dessen späterer Entdeckung. Eine verspätete Meldung sollte trotzdem erfolgen und die Verspätung nachvollziehbar begründen. Aufsichtsbehörden können bei Fristüberschreitung Bußgelder verhängen, die konkrete Höhe hängt vom Einzelfall ab und muss individuell geprüft werden. Lückenlose Dokumentation des Kenntnisnahme-Zeitpunkts ist deshalb kritisch.
Muss ich Kunden informieren, wenn ein KI-Tool Daten preisgegeben hat?
Nur bei einem voraussichtlich hohen Risiko nach Art. 34 DSGVO, es sei denn, die Daten waren verschlüsselt oder das Risiko wurde durch Folgemaßnahmen beseitigt.
Ist ein AVV mit dem KI-Anbieter ausreichend, um Meldepflichten zu vermeiden?
Nein. Ein AVV regelt die Pflichten des Auftragsverarbeiters gegenüber dir, entbindet dich als Verantwortlichen aber nicht von der eigenen Meldepflicht gegenüber der Aufsichtsbehörde.
Kann eine versehentliche Eingabe personenbezogener Daten in ein KI-Tool eine meldepflichtige Datenpanne sein?
Ja, das kann sie. Entscheidend ist nicht, ob die Daten 'ins Internet gelangt' oder dauerhaft gespeichert wurden, sondern ob eine Verletzung des Schutzes personenbezogener Daten vorliegt und welches Risiko daraus für die betroffenen Personen entsteht. Wurden beispielsweise personenbezogene Daten unbefugt offengelegt, abgerufen oder an einen nicht vorgesehenen Empfänger übermittelt, muss der Vorfall nach Art. 33 und 34 DSGVO bewertet und dokumentiert werden. Bei vollständig anonymisierten Daten liegt dagegen grundsätzlich keine Verletzung personenbezogener Daten vor.
Muss die Meldung innerhalb von 72 Stunden vollständig sein?
Nein. Wenn innerhalb der 72 Stunden noch nicht alle Informationen vorliegen, kann eine erste Meldung mit den bereits verfügbaren Angaben erfolgen. Weitere Informationen können anschließend ohne unangemessene Verzögerung nachgereicht werden (Art. 33 Abs. 4 DSGVO).