Wer haftet bei KI-Agenten im Unternehmen und was verlangt die DSGVO?

Wichtig: Ein hoher DSGVO-Score bedeutet nicht automatisch einen aufsichtsbehördlich vertretbaren Einsatz im Einzelfall. Entscheidend sind auch die konkrete Nutzung, ein AVV und interne Datenschutzprozesse.

Praxisregeln für KI-Agenten ✅ Eigener Agenten-Account mit minimalen Rechten, nie dein Admin-Login ✅ Lesen und Entwürfe als Standard, Schreiben und Senden nur nach Freigabe ✅ Mensch gibt Zahlungen, Vertragsabschlüsse und externe Mails frei ⚠️ Personenbezogene Daten: Zweck und Rechtsgrundlage (Art. 6 DSGVO) festlegen, AVV-Bedarf prüfen und Drittlandtransfer klären ⚠️ Mandats- oder Patientendaten: zusätzlich § 203 StGB gesondert prüfen

Was unterscheidet KI-Agenten von Chatbots?

Ein Chatbot antwortet, ein KI-Agent handelt: Er liest Postfächer, ruft Schnittstellen auf, legt Datensätze an oder löst Zahlungen aus. Rechtlich hilft eine Stufenlogik. Auf Stufe 1 schlägt der Agent nur vor (Suggest), auf Stufe 2 entscheidet er mit menschlicher Freigabe (Decide), auf Stufe 3 führt er selbst aus (Act).

Je höher die Stufe, desto strenger müssen Rechte, Protokolle und Haftungsabsicherung sein. Nach unserer Einschätzung genügen kleinen Betrieben meist Stufe 1 und 2 (eigene Bewertung, keine Messung). Stufe 3 kommt nur für eng umrissene, rückholbare Aufgaben wie das Umbenennen von Dateien in Betracht.

Haftung: Wer zahlt, wenn der Agent handelt?

Gegenüber deinen Kunden bleibst du vertraglich verantwortlich, auch wenn ein Agent die Mail geschrieben oder den Auftrag angelegt hat. Ein KI-Agent ist kein Rechtssubjekt, sein Verhalten wird dir je nach geprüftem Haftungstatbestand wie das eines Werkzeugs oder einer Hilfsperson zugerechnet. Für Schäden außerhalb von Verträgen wird häufig § 831 BGB herangezogen: Wer einen anderen zu einer Verrichtung bestellt, ist zum Ersatz des Schadens verpflichtet, den dieser in Ausführung der Verrichtung einem Dritten widerrechtlich zufügt [3]. Die Pflicht entfällt, wenn er bei Auswahl, Beschaffung und Leitung die im Verkehr erforderliche Sorgfalt beachtet hat oder der Schaden auch bei dieser Sorgfalt entstanden wäre. Ob die Norm direkt auf Software passt, ist offen und muss im Einzelfall juristisch geprüft werden. Als praktische Leitlinie taugt der Sorgfaltsmaßstab trotzdem: Auswahl, Anleitung, Kontrolle.

Die neue EU-Produkthaftungsrichtlinie (RL 2024/2853) müssen die Mitgliedstaaten bis zum 09.12.2026 umsetzen [2]. Sie bezieht Software ausdrücklich in den Produktbegriff ein [2]. Das trifft vor allem Hersteller. Wenn du Agenten selbst baust oder unter eigenem Namen anbietest, kannst du selbst in diese Rolle geraten. Ob und wie weit ein Tool-Anbieter dir gegenüber haftet, regeln seine Vertragsbedingungen, deshalb lohnt der Blick auf Haftungsbegrenzungen vor dem Einsatz.

Beim AI Act bist du als Unternehmen, das ein Tool nutzt, in der Regel Betreiber, nicht Anbieter. Die Hochrisiko-Pflichten für Anhang-III-Systeme hat der Digital Omnibus (VO (EU) 2026/1744) auf den 02.12.2027 verschoben [1]. Anhang III listet bestimmte Anwendungsfälle, etwa in der Personalauswahl, keine ganzen Branchen [4]. Ein Agent, der Termine sortiert oder Rechnungen vorbereitet, fällt für sich genommen nicht darunter.

Frag außerdem schriftlich bei deinem Versicherer nach, ob Schäden durch autonom handelnde Software in der Betriebshaftpflicht oder Vermögensschadenhaftpflicht gedeckt sind. Eine mündliche Auskunft schützt dich im Schadensfall nicht.

Zugriffsrechte: So begrenzt du den Handlungsspielraum

Das Prinzip heißt Least Privilege: Der Agent bekommt nur die Rechte, die er für genau diese Aufgabe braucht. Für kleine Betriebe genügt eine einfache rollenbasierte Vergabe (RBAC), also eine Rolle pro Agent statt individueller Sonderrechte. Diese Checkliste kannst du vor dem Start abhaken:

1. Eigener Dienstaccount je Agent, kein Personen- oder Admin-Login
2. Lesezugriff als Standard, Schreibrechte einzeln freigeben
3. Zugriff auf einzelne Ordner, Postfächer oder Projekte statt auf das Gesamtsystem
4. Menschliche Freigabe vor Zahlungen, Vertragsabschlüssen und externen Mails
5. Betrags- und Mengenlimits, etwa eine Obergrenze für Mails pro Tag
6. Protokoll jeder Aktion mit Zeit, Auftrag, Datenquelle und Ergebnis
7. Zugangsschlüssel befristen und regelmäßig erneuern
8. Notausschalter: Wer kann den Agenten sofort stoppen?

Das Protokoll aus Punkt 6 ist doppelt nützlich. Es belegt im Haftungsfall, dass du kontrolliert hast, und es erleichtert den Nachweis deiner Datenschutzpflichten.

DSGVO: Pflichten beim Einsatz von Agenten

Sobald ein Agent personenbezogene Daten liest, etwa Kundenmails oder Kalendereinträge, greift die DSGVO. Ein AVV nach Art. 28 DSGVO ist nötig, wenn der Anbieter diese Daten in deinem Auftrag verarbeitet, nicht bei jeder Datenübergabe. Prüfe außerdem, ob dein Tarif überhaupt einen AVV enthält und ob der Anbieter Eingaben für KI-Training nutzt. Ein AVV ersetzt keine Rechtsgrundlage: Lege vorab Zweck und Rechtsgrundlage nach Art. 6 DSGVO fest, bei besonderen Daten zusätzlich nach Art. 9.

Nutzt du einen Agenten eines US-Anbieters, liegt ein Drittlandtransfer vor, sofern Daten dorthin gelangen. Direkte US-Anbieter nehmen, sofern gelistet, nach eigenen Angaben am EU-US Data Privacy Framework teil. Bei einem direkten US-Anbieter ist der Cloud Act unmittelbar anwendbar; das Data Privacy Framework ändert daran nichts. Der Cloud Act verpflichtet US-Anbieter, Daten unabhängig vom Speicherort herauszugeben, sofern sie diese kontrollieren [5].

Eine DSFA nach Art. 35 DSGVO ist nicht für jeden Agenten fällig. Sie rückt näher, wenn der Agent auf große Mengen an E-Mails, Dokumenten oder Chatverläufen mit sensiblen Inhalten zugreift oder Personen systematisch bewertet. Trifft ein Agent Entscheidungen über Personen, etwa bei Bewerbungen, kommt Art. 22 DSGVO ins Spiel. Dann sollte ein Mensch die Entscheidung tatsächlich prüfen und nicht nur abnicken.

Relevante Agenten-Tools im Überblick

Die folgenden DSGVO-Scores sind Risikoeinschätzungen, keine rechtlichen Bewertungen. Wir zeigen nur Tools aus unserer geprüften Datenbank, weitere Agenten-Plattformen sind nicht bewertet und fehlen deshalb.

Tabelle seitlich scrollen →

Die Scores setzen sich in unserer Methodik aus sieben gewichteten Kategorien zusammen, darunter KI-Training, AVV und Drittlandtransfer. Die Details stehen auf /methodik. Ein Score bezieht sich nur auf Datenschutz und Compliance, nicht auf die Qualität der KI-Funktionen.

Warum diese Tools?

Wer Anfragen aus Formular, CRM und Postfach von Hand verschiebt, braucht nicht zwingend einen autonomen Agenten, sondern oft zunächst einen kontrollierten Ablauf. Make bildet solche Abläufe visuell ab, ab 10,59 $/Monat (Stand: 2026-07), und jeder Schritt lässt sich einzeln absichern. Welche Kategorien den Score von 7,0 tragen, zeigt der Tooltest.

Freelancer, die Mail- und Terminarbeit auslagern wollen, ohne Code zu schreiben, landen schnell bei No-Code-Agent-Buildern. Lindy zielt genau darauf, ab 29,99 $/Nutzer/Monat (Stand: 2026-09). Weil ein solcher Agent oft auf Postfach und Kalender zugreift, gehören Datenresidenz und Subprozessoren vor den Einsatz auf den Prüfstand (Angaben beim Anbieter prüfen, Stand: 2026-10). Der Score von 5,0 muss individuell geprüft werden.

Claude eignet sich als Baustein, wenn Verträge, Protokolle oder Recherchen aufbereitet werden sollen, ab 20 $/Monat (Stand: 2026-06). Der Score liegt bei 6,0 und muss individuell geprüft werden. Da Anthropic ein direkter US-Anbieter ist, gilt die Cloud-Act-Einordnung aus dem DSGVO-Abschnitt.

ChatGPT Plus kostet ab 20 $/Nutzer/Monat (Stand: 2026-06) und erreicht 5,0. Für bestimmte geschäftliche Tarife stellt OpenAI einen AVV bereit. Vor dem Einsatz prüfen, welcher Tarif AVV enthält.

Was andere Tools problematisch macht

Perplexity Pro kommt in unserer Methodik auf 4,0 von 10. Dieser Wert bezieht sich ausschließlich auf Datenschutz und Compliance, nicht auf die Qualität der Recherche. Welche Kategorien ihn drücken, steht im Tooltest.

Allgemein steigt der Prüfaufwand, wo Anbieter, Serverstandort oder Unterauftragsverarbeiter nicht öffentlich dokumentiert sind. Das gilt besonders bei autonomen Cloud-Agenten mit Sitz in Drittstaaten ohne Angemessenheitsbeschluss. Dort ist der Drittlandtransfer nur mit erheblichem Zusatzaufwand zu klären.

5-Schritte-Quickstart

1. Anwendungsfall und Risiko einstufen: Welche Daten sieht der Agent, welche Aktionen darf er auslösen?
2. Tool wählen: DSGVO-Score als Startpunkt nehmen, Tarif und Vertragsbedingungen prüfen.
3. Rechte und Protokoll einrichten: die Checkliste oben abarbeiten.
4. Rechtsgrundlage, AVV und Drittlandtransfer klären: Zweck und Rechtsgrundlage nach Art. 6 DSGVO festlegen (bei besonderen Daten zusätzlich Art. 9), AVV-Bedarf prüfen, Unterlagen ablegen.
5. Dokumentieren und auditieren: Verantwortliche benennen, Protokolle regelmäßig stichprobenartig lesen.

Darf ich KI-Agenten als Steuerberater oder Kanzlei nutzen?

Grundsätzlich ja, aber nicht ohne Zusatzprüfung. Mandatsbezogene Daten können besondere Kategorien nach Art. 9 DSGVO berühren, je nach Kontext. § 203 StGB ist eine zusätzliche, gesondert zu prüfende Anforderung, sobald Informationen an externe Dienstleister gelangen. Ein AVV allein genügt regelmäßig nicht, wenn zusätzlich § 203 StGB erfüllt werden muss.

Selbst gehostete Workflow-Tools mit lokalem Modell können den Kreis der Beteiligten verkleinern. Sie bedeuten aber technischen Aufwand und Hardwarebedarf, und ein Anbieter-Support fehlt.

Kurz gesagt: Wenn dein Agent Mandanten- oder Patientendaten sieht, brauchst du fast immer: eine Prüfung deiner Verschwiegenheitspflicht, einen passenden Vertrag mit dem Anbieter, eng begrenzte Zugriffe und ein lückenloses Protokoll.

Methodik

Alle Scores sind Risikoeinschätzungen auf Basis öffentlich zugänglicher Anbieterangaben, keine Rechtsgutachten. Wie sie entstehen, erklärt unsere Methodik. Rechtsangaben haben den Stand 2026-10.

Fazit & Empfehlung

KI-Agenten verschieben Verantwortung nicht auf die Technik, sie bleibt bei dir. Wir empfehlen kleinen Betrieben, mit diesen drei Schritten zu starten: einen Agenten mit Lesezugriff und Freigabepflicht einführen, das Aktionsprotokoll von Anfang an aktivieren und Rechtsgrundlage, AVV-Bedarf sowie Drittlandtransfer vor dem ersten echten Datenzugriff klären. Erst danach lohnt sich mehr Autonomie.

Du willst nicht jeden Vertrag selbst prüfen? Unsere Tooltests zeigen pro KI-Tool: AVV, DPA, KI-Training, Cloud-Act-Risiko, DSGVO-Score.