Data Poisoning bezeichnet einen gezielten Angriff, bei dem jemand die Trainingsdaten eines KI-Modells manipuliert, damit das Modell später falsche, verzerrte oder schädliche Ausgaben liefert. Für KMU, die eigene Daten zum Training oder Nachtrainieren (Fine-Tuning) von KI-Tools einsetzen, ist das Konzept relevant, weil sich ein solcher Angriff oft erst durch auffällige Fehler im laufenden Betrieb zeigt — nicht schon beim Einkauf des Tools.
Was bedeutet Data Poisoning?
Beim Data Poisoning schleust ein Angreifer manipulierte oder falsch beschriftete Datensätze in den Trainingsprozess eines KI-Modells ein. Das Modell lernt daraus fehlerhafte Muster, die später zu falschen Klassifizierungen, verzerrten Ergebnissen oder gezielt eingebauten Hintertüren führen. Besonders schwer zu erkennen sind sogenannte Clean-Label-Angriffe: Hier bleiben die Datenetiketten unauffällig korrekt, nur der Inhalt wird subtil verändert — das US-Institut NIST beschreibt diese Angriffsform in seiner Taxonomie zu adversarialem maschinellem Lernen (Stand: 2026-09). Data Poisoning ist von einer Prompt Injection zu unterscheiden: Während Data Poisoning das Modell selbst dauerhaft beim Training verfälscht, manipuliert eine Prompt Injection nur einzelne Anfragen zur Laufzeit, ohne das trainierte Modell zu verändern.
Warum ist Data Poisoning für mein Unternehmen wichtig?
Viele KMU nutzen KI-Tools, die mit eigenen Unternehmensdaten nachtrainiert werden — etwa ein Chatbot, der aus Support-Tickets lernt, oder ein Analyse-Tool, das Kundenbewertungen automatisch auswertet. Wer solche Datenquellen ungeprüft in ein Training einspeist, öffnet potenziell eine Angriffsfläche: Manipulierte Eingaben, etwa gezielt platzierte Fake-Bewertungen, können die Qualität des Modells schleichend verschlechtern oder unerwünschtes Verhalten einbauen. Das betrifft vor allem Unternehmen, die eigene Trainingspipelines betreiben oder Trainingsdaten von Drittanbietern beziehen — nicht die reine Nutzung fertiger KI-Tools über eine Weboberfläche.
Data Poisoning in der Praxis
Ein E-Commerce-Unternehmen lässt ein KI-Tool zur Stimmungsanalyse regelmäßig mit neuen Kundenbewertungen nachtrainieren. Ein Angreifer reicht über einen längeren Zeitraum systematisch manipulierte Bewertungen ein, die bestimmte Formulierungen mit positiver Bewertung verknüpfen, obwohl der Inhalt negativ ist. Nach dem nächsten Trainingslauf klassifiziert das Modell ähnliche echte Beschwerden fälschlich als positiv — ein Qualitätsproblem, das erst auffällt, wenn Kundenreklamationen im System plötzlich seltener werden. Sinnvolle Gegenmaßnahmen: Herkunft und Plausibilität von Trainingsdaten prüfen, Zugriff auf Trainingsdatensätze beschränken, Modell-Ausgaben stichprobenartig gegen bekannte Referenzfälle testen und bei extern bezogenen Trainingsdaten auf die Sicherheitsangaben des Anbieters achten.
DSGVO-Bezug
Fließen personenbezogene Daten — etwa Kundennamen aus Support-Tickets — in ein Trainings- oder Nachtrainings-Set ein, greift Art. 5 Abs. 1 lit. f DSGVO (Grundsatz der Integrität und Vertraulichkeit): In diesem Fall müssen Unternehmen angemessene technische und organisatorische Maßnahmen nach Art. 32 DSGVO treffen, um diese Daten vor unbefugter Veränderung zu schützen. Eine speziell auf Data Poisoning zugeschnittene DSGVO-Einzelregelung existiert bislang nicht (Stand: 2026-09); der Schutz vor Manipulation ergibt sich aus den allgemeinen Sicherheitspflichten. Wer keine personenbezogenen Daten im Trainingsprozess verwendet, ist von dieser Pflicht nicht betroffen.
Weiterführendes
Wer personenbezogene Daten an einen KI-Anbieter zur Verarbeitung überlässt, sollte zusätzlich wissen, was ein AVV ist.
Häufige Fragen
Was unterscheidet Data Poisoning von einer Prompt Injection?
Data Poisoning verfälscht die Trainingsdaten eines KI-Modells dauerhaft, sodass das Modell selbst fehlerhafte Muster lernt. Eine Prompt Injection dagegen manipuliert nur eine einzelne Anfrage zur Laufzeit, ohne das trainierte Modell zu verändern.
Wie erkenne ich Data Poisoning in einem KI-Tool, das ich einsetze?
Typische Hinweise sind plötzliche, unerklärliche Qualitätsabfälle nach einem Nachtraining, etwa Fälle, die vorher korrekt klassifiziert wurden und es danach nicht mehr sind. Regelmäßige Stichprobentests gegen bekannte Referenzfälle helfen, solche Abweichungen frühzeitig zu bemerken.
Betrifft Data Poisoning auch Unternehmen, die nur fertige KI-Tools nutzen?
Nur eingeschränkt. Das Risiko betrifft vor allem Unternehmen, die eigene Daten in ein Training oder Fine-Tuning einspeisen oder Trainingsdaten von Dritten beziehen. Wer ein fertiges KI-Tool ohne eigenes Training nutzt, ist in der Regel nicht direkt betroffen.
Muss ich Data Poisoning melden, wenn personenbezogene Daten betroffen sind?
Führt eine Manipulation der Trainingsdaten zu einer Verletzung des Schutzes personenbezogener Daten, etwa durch unbefugte Offenlegung oder Veränderung, kann eine Meldepflicht nach Art. 33 DSGVO gegenüber der Aufsichtsbehörde bestehen. Ob der konkrete Fall meldepflichtig ist, sollte im Einzelfall geprüft werden.