Was ist Shadow AI?

Kurz gesagt: Shadow AI (auch „Schatten-KI”) bezeichnet den Einsatz von KI-Tools durch Mitarbeitende, ohne dass Geschäftsführung, IT oder Datenschutzbeauftragte davon wissen oder ihn freigegeben haben. Das reicht vom Copy-Paste in einen öffentlichen Chatbot bis zur KI-Funktion, die sich in einer SaaS-Anwendung von selbst aktiviert. Für KMU ist das Thema relevant, weil dabei häufig personenbezogene oder vertrauliche Daten unkontrolliert das Unternehmen verlassen – mit möglichen Konsequenzen nach der Datenschutz-Grundverordnung (DSGVO).

Definition: Was bedeutet Shadow AI?

Shadow AI ist der KI-Ableger eines älteren Phänomens: Schatten-IT. Während Schatten-IT den unautorisierten Einsatz von Software oder Cloud-Diensten meint, geht es bei Shadow AI konkret um KI-gestützte Werkzeuge – öffentliche Chatbots, KI-Browser-Erweiterungen, Übersetzungs- und Schreibtools, private Accounts bei Programmier-Assistenten oder KI-Funktionen, die in ohnehin genutzten Programmen (E-Mail, Office, CRM) automatisch mitlaufen.

Entscheidend ist nicht das Werkzeug selbst, sondern der fehlende Überblick: Niemand im Unternehmen hat geprüft, wohin die eingegebenen Daten fließen, wie lange sie gespeichert werden oder ob der Anbieter sie zum Training eigener Modelle weiterverwendet. Diese fehlende Kontrolle unterscheidet Shadow AI von offiziell eingeführten KI-Lösungen, die im Idealfall über eine interne KI-Richtlinie, eine Datenschutz-Folgenabschätzung und – wo nötig – einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO abgesichert sind.

Merksatz: Shadow AI bedeutet nicht, dass KI heimlich arbeitet. Shadow AI bedeutet, dass Menschen KI einsetzen, ohne dass das Unternehmen davon weiß oder den Einsatz geprüft hat.

Typische Beispiele für Shadow AI

• Öffentlicher Chatbot für Kundenmails oder interne Texte
• Übersetzungs- oder Schreibtool mit hineinkopiertem Firmentext
• Programmier-Assistent über einen privaten statt firmeneigenen Account
• KI-Funktion in Office- oder CRM-Software, die sich automatisch aktiviert
• KI-gestützte Notiz- oder Design-Tools, die ohne Freigabe im Team genutzt werden

Shadow AI in der Praxis: ein Beispiel

Stell dir vor, eine Mitarbeiterin im Kundenservice eines kleinen Handwerksbetriebs steht unter Zeitdruck und lässt sich Antwortentwürfe für Kundenanfragen von einem kostenlosen KI-Chatbot formulieren. Um den Kontext zu liefern, kopiert sie die komplette E-Mail hinein – inklusive Name, Adresse, Auftragsnummer und manchmal auch Zahlungsdetails des Kunden. Weder die Geschäftsführung noch eine für Datenschutz zuständige Person wissen davon. Aus Sicht der Mitarbeiterin ist das ein harmloser Produktivitäts-Trick; aus Sicht des Unternehmens ist es eine nicht dokumentierte, nicht geprüfte Datenübermittlung an einen externen Dienst – oft in ein Land außerhalb der EU, ohne dass geklärt wurde, ob und wie die Voraussetzungen für eine solche Übermittlung erfüllt sind. Genau solche Alltagssituationen – nicht der spektakuläre Hackerangriff – sind der typische Entstehungsort von Shadow AI in kleinen und mittleren Unternehmen.

Warum ist Shadow AI aus DSGVO-Sicht relevant?

Personenbezogene Daten dürfen grundsätzlich nur verarbeitet werden, wenn die datenschutzrechtlichen Voraussetzungen erfüllt sind – dazu gehört unter anderem eine Rechtsgrundlage für die Verarbeitung und, sofern eine Auftragsverarbeitung vorliegt, ein AVV mit dem eingesetzten Anbieter. Bei Shadow AI ist typischerweise keine dieser Voraussetzungen geprüft worden, weil der Einsatz des Tools dem Unternehmen gar nicht bekannt war. Das schafft mehrere Risikofelder gleichzeitig: Es fehlt die Kontrolle darüber, ob die Daten im Rahmen einer Drittlandübermittlung ohne angemessenes Schutzniveau landen, ob sie zum KI-Training weiterverwendet werden und wie lange sie dort gespeichert bleiben. Kommt es zu einer Datenschutzverletzung, die auf diese Weise entsteht, haftet nicht die einzelne Mitarbeiterin, sondern das Unternehmen als verantwortliche Stelle – im schlimmsten Fall mit Bußgeldern, die nach Art. 83 DSGVO bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes betragen können. Hinzu kommt ein Reputationsrisiko, wenn Kunden erfahren, dass ihre Daten ungeprüft bei einem Drittanbieter gelandet sind.

Praktisch bedeutet das: Eine klare, verständlich kommunizierte KI-Richtlinie, ein zugelassenes Set an KI-Tools und regelmäßige Sensibilisierung der Belegschaft sind für KMU keine Kür, sondern der wirksamste Hebel gegen Shadow AI. Das ist wirksamer als jedes nachträgliche Verbot, das ohnehin schwer durchzusetzen ist, wenn die Nutzung erst einmal zur Gewohnheit geworden ist.

Shadow AI vermeiden

1. Freigegebene KI-Tools bereitstellen, statt Nutzung nur zu verbieten.
2. Klare Regeln definieren, welche Daten (nicht) in KI-Tools eingegeben werden dürfen.
3. Mitarbeitende regelmäßig schulen und sensibilisieren.

Verwandte Begriffe

Shadow AI hängt eng mit mehreren anderen Lexikon-Begriffen zusammen: Wer die Nutzung von KI im Unternehmen offiziell regeln will, kommt an einer KI-Richtlinie nicht vorbei. Wird dabei ein externer KI-Anbieter im Auftrag des Unternehmens tätig, braucht es in der Regel einen Auftragsverarbeitungsvertrag (AVV). Vor der Einführung risikobehafteter KI-Anwendungen lohnt sich außerdem der Blick auf die Datenschutz-Folgenabschätzung. Und wer wissen will, welche zusätzlichen Pflichten auf risikoreiche KI-Systeme künftig zukommen, findet Hintergrund im Artikel zum EU AI Act.