DSGVO und KI: So setzen Unternehmen KI datenschutzgerecht ein

Warum Datenschutz für KI-Projekte entscheidend ist

Die DSGVO schützt Menschen, deren Daten verarbeitet werden. Bei KI können schon eine Kundenanfrage, ein Gesprächsprotokoll oder eine Kombination aus Auftragsdaten einen Personenbezug herstellen. Auch erzeugte Antworten und technische Protokolle gehören in die Prüfung. Namen zu entfernen genügt nicht, wenn eine Person aus dem Zusammenhang weiterhin identifizierbar ist. [1: Art. 4; 2: Abschnitte 1.3 und 3.1]

Fehlende Schutzmaßnahmen können dazu führen, dass vertrauliche Informationen bei unberechtigten Empfängern landen oder falsche Aussagen über Personen weiterverwendet werden. Verstöße können aufsichtsbehördliche Maßnahmen und Bußgelder nach sich ziehen. Vor allem muss das Unternehmen nachweisen können, dass seine Verarbeitung rechtmäßig und angemessen abgesichert ist. [1: Art. 5, 58 und 83]

1. Zweck, Datenfluss und Rechtsgrundlage festlegen

Beschreiben Sie zuerst den konkreten Einsatz: etwa Antwortentwürfe für Kundenanfragen. Halten Sie fest, welche Daten aus welchen Systemen benötigt werden, wer sie erhält und wie lange sie gespeichert bleiben. Unterscheiden Sie dabei die Bearbeitung einer Anfrage von einer möglichen Nutzung der Daten zum Modelltraining. [1: Art. 5 und 6; 2: Abschnitte 1.1, 1.5 und 1.9]

Für die Verarbeitung braucht es eine passende Rechtsgrundlage. Eine Einwilligung ist nicht immer erforderlich; je nach Fall kommen beispielsweise die Erforderlichkeit zur Vertragserfüllung oder berechtigte Interessen infrage. Ein bloßer Effizienzgewinn rechtfertigt jedoch nicht jede Datenverarbeitung. Beim berechtigten Interesse sind Interesse, Erforderlichkeit und die Abwägung mit den Rechten der Betroffenen zu prüfen und zu dokumentieren. Für Gesundheitsdaten und andere besondere Kategorien gelten zusätzlich die Voraussetzungen des Art. 9. [1: Art. 6 und 9; 3]

2. Anbieter und Verträge prüfen – EU-Hosting allein reicht nicht

Klären Sie die Rollen entlang der gesamten Verarbeitungskette. Verarbeitet ein Anbieter personenbezogene Daten in Ihrem Auftrag, ist grundsätzlich eine Vereinbarung nach Art. 28 erforderlich. Verfolgt er eigene Zwecke, etwa eigenes Modelltraining, muss diese Verarbeitung gesondert bewertet werden. Ein Auftragsverarbeitungsvertrag ersetzt die Rechtsgrundlage nicht. [1: Art. 6 und 28; 2: Abschnitt 2.1]

Prüfen Sie neben dem Speicherort auch Unterauftragnehmer, Supportzugriffe, Protokollierung und Weiterübermittlungen. Werden personenbezogene Daten in Drittländer übermittelt, müssen zusätzlich die Voraussetzungen der Art. 44 ff. erfüllt sein, etwa durch einen einschlägigen Angemessenheitsbeschluss oder geeignete Garantien. Welche Lösung trägt, hängt vom konkreten Empfänger und Datenfluss ab. [1: Art. 44–46]

• Lässt sich die Nutzung von Eingaben und Ausgaben zum Anbietertraining vertraglich ausschließen und technisch deaktivieren?
• Welche Daten speichert der Dienst, für welche Zwecke und für welche Dauer?
• Welche Unterauftragnehmer erhalten Zugriff und wie werden Änderungen mitgeteilt?
• Wie unterstützt der Anbieter Auskunft, Berichtigung, Löschung und den Umgang mit Datenschutzvorfällen?

3. Nur notwendige Daten und Zugriffe freigeben

Die DSGVO verlangt Datenschutz durch Technikgestaltung, datenschutzfreundliche Voreinstellungen und ein risikogerechtes Sicherheitsniveau. Eine gemeinsame Datenbank darf deshalb nicht bedeuten, dass jeder Agent sämtliche Informationen sehen kann. [1: Art. 25 und 32]

Für die Umsetzung heißt das beispielsweise: Daten auf den jeweiligen Vorgang begrenzen, Berechtigungen schon beim Abruf prüfen, Zugriffe nach Rollen und Mandanten trennen und sensible Inhalte möglichst vor der Modellanfrage entfernen. Pseudonymisierung kann Risiken senken; pseudonymisierte Daten bleiben aber grundsätzlich personenbezogen. Ergänzend sind etwa Verschlüsselung, geschützte Zugangsdaten und überprüfbare Zugriffsprotokolle sinnvoll. Auch diese Protokolle brauchen einen Zweck und begrenzte Speicherfristen. [1: Art. 4 Nr. 5, 5, 25 und 32; 2: Abschnitte 2.5 und 2.6]

4. Transparenz, Löschung und menschliche Kontrolle ermöglichen

Betroffene müssen nach den einschlägigen Informationspflichten verständlich über die Verarbeitung informiert werden, unter anderem über Zwecke, Rechtsgrundlagen, Empfänger und Speicherdauer. Auskunft, Berichtigung und Löschung müssen im tatsächlichen System funktionieren. Prüfen Sie deshalb auch Chatverläufe, Suchindizes, abgeleitete Datenbestände und die Löschregeln bei Dienstleistern. Gesetzliche Aufbewahrungspflichten und andere Ausnahmen sind zu berücksichtigen. [1: Art. 12–17; 2: Abschnitte 1.8–1.11]

KI-Ausgaben können falsch sein. Legen Sie fest, wann Ergebnisse fachlich geprüft werden und wer sie korrigieren darf. Bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung gelten die besonderen Grenzen des Art. 22 einschließlich seiner Ausnahmen und Schutzmaßnahmen. Eine nur formale Bestätigung durch einen Menschen ist keine verlässliche Kontrollstrategie. [1: Art. 5 und 22; 2: Abschnitte 1.6 und 3.3]

5. Risiken vor dem Start bewerten und den Betrieb begleiten

Prüfen und dokumentieren Sie, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Sie ist vor Beginn durchzuführen, wenn die geplante Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. KI führt nicht automatisch in jedem Fall zu dieser Pflicht; relevant sind unter anderem Zweck, Umfang, Datenarten und Auswirkungen. Beziehen Sie gegebenenfalls benannte Datenschutzbeauftragte frühzeitig ein und beachten Sie die Listen der zuständigen Aufsicht. [1: Art. 35; 2: Abschnitt 2.3]

Definieren Sie freigegebene Werkzeuge, erlaubte Daten und verantwortliche Ansprechpartner. Schulen Sie Beschäftigte, führen Sie erforderliche Verarbeitungsverzeichnisse und testen Sie regelmäßig die Schutzmaßnahmen. Änderungen an Modellen, Schnittstellen oder Anbietern können eine erneute Bewertung erforderlich machen. Ein Prozess für Datenschutzvorfälle gehört ebenfalls dazu. [1: Art. 24, 30, 32–35; 2: Abschnitte 2.2 und 2.7–2.8]

Praxisbeispiel: E-Mail und CRM mit einem KI-Agenten verbinden

Ein Kunde fragt per E-Mail nach seinem Auftragsstatus. Eine mögliche datensparsame Architektur stellt dem Agenten nur die für diese Anfrage freigegebenen Auftragsinformationen bereit. Er erhält weder das gesamte Postfach noch die vollständige Kundendatenbank. Die Anwendung erstellt einen Antwortentwurf; ein zuständiger Mitarbeiter prüft ihn vor dem Versand.

Für diesen beispielhaften Ablauf werden Zweck und Rechtsgrundlage vorab dokumentiert, Anbieter und Datenflüsse geprüft sowie Berechtigungen und Löschfristen festgelegt. Tests kontrollieren, ob fremde Kundenakten tatsächlich gesperrt bleiben und Korrekturen in den angebundenen Datenbeständen ankommen. Das ist ein Umsetzungsmuster, keine pauschale Bestätigung der Rechtmäßigkeit eines konkreten Produkts. Es überträgt die Anforderungen aus Art. 5, 25 und 32 auf den Arbeitsablauf. [1]

Checkliste vor dem produktiven Einsatz

Vor der Freigabe sollten Fachbereich, IT und Datenschutz diese Fragen nachvollziehbar beantworten können:

• Sind Zweck, Datenarten, Empfänger und Rechtsgrundlage dokumentiert?
• Sind Anbieterrollen, notwendige Verträge und mögliche Drittlandtransfers geklärt?
• Sind unnötige Daten und Zugriffe ausgeschlossen und Trainingsoptionen geprüft?
• Sind Informationspflichten, Betroffenenrechte und Löschprozesse umgesetzt?
• Ist die Erforderlichkeit einer Datenschutz-Folgenabschätzung bewertet?
• Sind Ergebnisprüfung, Zuständigkeiten und Vorfallprozesse festgelegt?

Datenschutz als Teil der Lösung

Ein tragfähiges KI-System verbindet funktionierende Abläufe mit klaren Grenzen für die Datenverarbeitung. Der richtige Einstieg ist ein überschaubarer Anwendungsfall mit geprüften Datenflüssen und wirksamen Schutzmaßnahmen. Die DSK-Orientierungshilfe unterstützt diese Planung, ist aber ausdrücklich kein abschließender Anforderungskatalog. [2]

Stand: 16. Oktober 2026. Dieser Beitrag bietet allgemeine Orientierung und ersetzt keine rechtliche Prüfung des Einzelfalls. Zusätzliche Anforderungen, insbesondere aus der KI-Verordnung und bereichsspezifischen Gesetzen, sind gesondert zu prüfen. [2: Abschnitt 2.8]