KI-Agenten DSGVO-konform einsetzen

Was ist ein KI-Agent?

Ein KI-Agent ist eine Software, die ein Ziel in einzelne Schritte zerlegt und diese Schritte mit Werkzeugen selbst ausführt. Das Sprachmodell entscheidet dabei nicht nur, was es antwortet, sondern auch, welche Aktion als Nächstes sinnvoll ist: eine E-Mail lesen, einen Datensatz im CRM suchen, einen Termin anlegen oder einen Entwurf an eine Kollegin schicken.

Damit unterscheidet sich ein Agent von zwei Dingen, mit denen er oft verwechselt wird:

Warum Agenten datenschutzrechtlich anders sind als ein Chatbot

Ein Chatbot verarbeitet vor allem das, was jemand eintippt. Ein Agent dagegen liest selbstständig Postfächer, Dokumente und Datenbanken und gibt Daten an weitere Dienste weiter. Daraus ergeben sich vier Unterschiede, die Sie schon bei der Planung berücksichtigen sollten:

• Mehr Daten Dritter: Agenten verarbeiten Daten von Kunden, Lieferanten und Beschäftigten, die nie selbst mit dem System gesprochen haben. Auch für diese Personen brauchen Sie eine Rechtsgrundlage und eine Information über die Verarbeitung.
• Längere Ketten: Zwischen Postfach und Ergebnis liegen oft mehrere Dienste: Modellanbieter, Suchindex, Schnittstellen. Jeder davon kann ein Auftragsverarbeiter mit eigenem Standort sein.
• Handlungen statt Antworten: Ein Agent kann Mails verschicken, Daten ändern oder Termine absagen. Ein Fehler wirkt sofort nach außen.
• Angriffe über Inhalte: Ein Agent liest Texte, die andere geschrieben haben. Steht in einer E-Mail eine versteckte Anweisung, kann ein schlecht geschützter Agent ihr folgen. Diese sogenannte Prompt Injection steht in der OWASP-Liste der zehn größten Risiken für KI-Anwendungen 2026 auf Platz 1, übermäßige Handlungsbefugnis auf Platz 3.

Die 10-Punkte-Checkliste für DSGVO-konforme KI-Agenten

Die Liste folgt dem Weg der Daten: vom Zweck über die beteiligten Dienste bis zur Kontrolle im laufenden Betrieb. Gehen Sie sie für jeden Agenten einzeln durch, nicht einmal für „die KI“ als Ganzes.

1. 01

   Zweck und Rechtsgrundlage festlegen

   Ein Agent, ein Zweck. Beschreiben Sie in einem Satz, was der Agent tun soll, und ordnen Sie jede Verarbeitung einer Rechtsgrundlage zu, meist der Vertragserfüllung oder dem berechtigten Interesse. Ein Agent, der „alles im Postfach erledigt“, lässt sich kaum sauber begründen.

   Art. 5 Abs. 1 lit. b und Art. 6 DSGVO
2. 02

   Datenfluss aufzeichnen

   Welche Daten liest der Agent, an welche Dienste gibt er sie weiter, wo stehen deren Server und wie lange speichern sie? Eine einfache Skizze mit Pfeilen reicht. Sie ist die Grundlage für das Verzeichnis der Verarbeitungstätigkeiten, die Verträge und die Datenschutzhinweise.

   Art. 30 DSGVO
3. 03

   Auftragsverarbeitung mit allen Diensten regeln

   Mit jedem Anbieter, der in Ihrem Auftrag personenbezogene Daten verarbeitet, brauchen Sie einen Vertrag zur Auftragsverarbeitung. Das gilt auch für den Modellanbieter und für Schnittstellendienste. Prüfen Sie die Liste der Unterauftragsverarbeiter.

   Art. 28 DSGVO
4. 04

   Übermittlung in Drittländer prüfen

   Läuft ein Teil der Kette in den USA, brauchen Sie eine Grundlage für die Übermittlung, etwa die Zertifizierung des Anbieters nach dem EU-US Data Privacy Framework oder Standardvertragsklauseln. Das EU-Gericht hat das Framework am 3. September 2025 bestätigt, ein Rechtsmittel beim Europäischen Gerichtshof ist anhängig. Für Anbieter mit Sitz in den USA gilt zudem der US CLOUD Act, unabhängig vom Serverstandort. Eine Kette, die vollständig in der EU läuft, ist einfacher zu dokumentieren.

   Art. 44 ff. DSGVO · EuG, Rs. T-553/23
5. 05

   Nur die nötigen Rechte vergeben

   Geben Sie dem Agenten ein eigenes Dienstkonto, keine Administratorrechte und wo möglich nur Lesezugriff. Beschränken Sie ihn auf die Ordner, Postfächer und Datensätze, die er für seine Aufgabe braucht.

   Art. 25 und Art. 32 DSGVO
6. 06

   Freigabe vor jeder Außenwirkung

   E-Mails versenden, Zahlungen anstoßen, Verträge ändern, Daten löschen: Solche Schritte bereitet der Agent vor, ausgelöst werden sie von einem Menschen. Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung für Personen, etwa eine Absage an Bewerbende, dürfen nicht ausschließlich automatisiert fallen.

   Art. 22 DSGVO
7. 07

   Gegen Prompt Injection absichern

   Behandeln Sie alles, was der Agent liest, als nicht vertrauenswürdig: E-Mails, Webseiten, Anhänge. Anweisungen aus solchen Inhalten dürfen keine Werkzeuge auslösen. Hilfreich sind feste Listen erlaubter Aktionen und Empfänger sowie eine Prüfung der Ergebnisse vor dem Ausführen.

   OWASP GenAI Top 10 (2026), Platz 1 und 3
8. 08

   Protokollieren und nachvollziehbar machen

   Halten Sie fest, welche Quellen der Agent gelesen, welche Werkzeuge er aufgerufen und wer was freigegeben hat. Protokolle enthalten selbst personenbezogene Daten: Legen Sie fest, wer sie einsehen darf und wann sie gelöscht werden.

   Art. 5 Abs. 2 DSGVO (Rechenschaftspflicht)
9. 09

   Training und Aufbewahrung beim Modellanbieter klären

   Nutzt der Anbieter Ihre Eingaben zum Training? Wie lange speichert er Anfragen und Antworten? Bei Geschäftskunden ist das Training meist abgeschaltet, die Aufbewahrungsfristen unterscheiden sich aber deutlich. Lassen Sie sich beides für Ihr Konto schriftlich bestätigen.

   Art. 28 Abs. 3 DSGVO
10. 10

    Datenschutz-Folgenabschätzung prüfen

    Verarbeitet der Agent viele personenbezogene Daten, Daten von Beschäftigten oder besondere Kategorien, ist eine Datenschutz-Folgenabschätzung oft Pflicht. Prüfen Sie das anhand der Liste der Aufsichtsbehörden und dokumentieren Sie das Ergebnis auch dann, wenn keine DSFA nötig ist.

    Art. 35 DSGVO

Was die KI-Verordnung für Agenten bedeutet

Die KI-Verordnung (EU) 2024/1689 regelt nicht den Datenschutz, sondern Sicherheit und Transparenz von KI-Systemen. Für die meisten Agenten im Büroalltag sind zwei Punkte wichtig: die Transparenz gegenüber Menschen, die mit dem Agenten kommunizieren, und die Frage, ob der Einsatzbereich als Hochrisiko gilt. Mit dem Digital-Omnibus, der Verordnung (EU) 2026/1744, hat die EU mehrere Fristen verschoben. Er ist seit dem 27. Juli 2026 in Kraft.

Ein Agent, der Eingangsrechnungen zuordnet, Angebote vorbereitet oder Termine bucht, ist in aller Regel kein Hochrisiko-System. Sobald ein Agent aber Bewerbungen sortiert oder über Personen entscheidet, sollten Sie die Einstufung sorgfältig prüfen lassen.

Typische Einsatzfälle und worauf es jeweils ankommt

So starten Sie einen Pilot in 30 Tagen

1. Woche 1, Ablauf wählen: Nehmen Sie einen häufigen, gut beschriebenen Vorgang mit geringer Außenwirkung, zum Beispiel das Zuordnen von Eingangsrechnungen.
2. Woche 1, Datenfluss und Verträge: Skizze erstellen, Verträge prüfen, Verzeichnis ergänzen, Beschäftigte und gegebenenfalls den Betriebsrat informieren.
3. Woche 2, Rechte und Freigaben: Dienstkonto mit minimalen Rechten anlegen, Freigabeschritte festlegen, Protokollierung einschalten.
4. Woche 3, Testen, auch mit Angriffen: 20 typische Fälle durchspielen und zusätzlich eine präparierte E-Mail mit versteckter Anweisung einschleusen. Der Agent darf ihr nicht folgen.
5. Woche 4, Messen und entscheiden: Zeitersparnis, Fehlerquote und Zahl der Korrekturen auswerten. Erst dann den Umfang erweitern.

Häufige Fragen

Caan Grueneberg, CEO von Nexoria SystemsVerantwortlich für den Inhalt. Dieser Ratgeber ersetzt keine Rechtsberatung. Hinweise und Korrekturen an info@nexoria-systems.de. Mehr über den Autor