KI ist 2026 das größte DSGVO-Compliance-Risiko

Die meisten der letzten zehn Jahre bedeutete DSGVO-Compliance, die Grundlagen richtig hinzubekommen: eine dokumentierte Rechtsgrundlage, ein ordentliches Verzeichnis von Verarbeitungstätigkeiten, ein Cookie-Banner, das tatsächlich funktionierte, ein Verfahren zur Meldung von Datenschutzverletzungen, das niemand unter Druck improvisieren musste. Unternehmen, die in diese Grundlagen investierten, konnten sich zu Recht als compliant bezeichnen. 2026 reicht das nicht mehr aus. Künstliche Intelligenz ist zur größten einzelnen Quelle von DSGVO-Risiken geworden, und europäische Aufsichtsbehörden zeigen — durch Leitlinien, Untersuchungen und Durchsetzungsmaßnahmen —, dass KI-Systeme bei den Prinzipien, die den Datenschutz seit 2018 regeln, keine Ausnahme bekommen. Wenn überhaupt, erhöht KI die Einsätze, weil diese Systeme aus personenbezogenen Daten neue, schädliche Ausgaben erzeugen können, auf eine Weise, die sich die ursprünglichen Verfasser der Verordnung nie vorstellen mussten.

Die DSGVO wurde technologieneutral verfasst, und im Prinzip gelten ihre Kernpflichten für ein maschinelles Lernmodell genauso wie für eine Tabelle mit Kundendaten. In der Praxis erschwert KI fast jede dieser Pflichten. Trainingsdaten werden oft in großem Umfang gesammelt, manchmal von öffentlichen Quellen gescrapt, und selten mit einem konkreten, dokumentierten Zweck vor Augen erhoben — was mit Zweckbindung und Datenminimierung nur schwer vereinbar ist. Modelle können personenbezogene Daten memorieren und später auf eine Weise reproduzieren, die niemand vollständig vorhersagen oder kontrollieren kann. Und sobald ein Modell im Einsatz ist, können seine Ausgaben — Empfehlungen, Klassifizierungen, generierte Bilder oder Texte — selbst eine neue Verarbeitung personenbezogener Daten darstellen, mit neuen damit verbundenen Risiken. Aufsichtsbehörden behandeln KI nicht als eigenständige Frage; sie behandeln sie als Erweiterung bestehender DSGVO-Pflichten, angewendet mit besonderer Strenge. Drei Anforderungen stehen dabei im Zentrum der Durchsetzungstätigkeit: Bewertungen des berechtigten Interesses für Trainingsdaten, verpflichtende Folgenabschätzungen für biometrische Verarbeitung, und der Nachweis, dass Trainingsdaten überhaupt rechtmäßig erhoben wurden.

Berechtigtes Interesse ist kein Freifahrtschein

Viele Organisationen, die KI-Modelle bauen oder feinabstimmen, haben sich auf „berechtigte Interessen" als Rechtsgrundlage für die Nutzung personenbezogener Daten beim Training gestützt, besonders dort, wo die Einholung der individuellen Einwilligung jeder betroffenen Person unpraktikabel wäre. Aufsichtsbehörden haben diesen Ansatz nicht grundsätzlich zurückgewiesen — aber sie haben klargestellt, dass er keine pauschale Rechtfertigung ist. Er erfordert eine dokumentierte, belastbare Bewertung.

Eine ordnungsgemäße Interessenabwägung für KI-Trainingsdaten muss drei Dinge belegen: dass das verfolgte Interesse echt und rechtmäßig ist, dass die Verarbeitung zu seiner Erreichung notwendig ist (ohne weniger eingriffsintensive Alternative), und dass das Interesse nicht durch die Rechte und Freiheiten der Personen überwogen wird, deren Daten genutzt werden. Für KI bedeutet das konkret: zeigen können, warum ein bestimmter Datensatz notwendig war, warum Anonymisierung oder synthetische Daten keine tragfähigen Alternativen waren, und welche Schutzmaßnahmen die Auswirkungen auf Einzelpersonen begrenzen. Organisationen, die diese Dokumentation auf Nachfrage nicht vorlegen können, geraten zunehmend ins Visier von Untersuchungen. Wie eng dieser Test inzwischen gefasst ist, haben wir in unserem Beitrag zu den neuen EDSA-Leitlinien zum Web-Scraping beschrieben — alte Datensätze bekommen keinen Freifahrtschein, nur weil die Regeln bei ihrer Erhebung noch nicht existierten.

Biometrische Verarbeitung und die DSFA-Pflicht

Biometrische Daten — Gesichtserkennung, Stimmabdrücke, Ganganalyse und ähnliche Merkmale — gehören unter der DSGVO zu den besonderen Kategorien personenbezogener Daten, und KI hat die biometrische Verarbeitung deutlich häufiger und leistungsfähiger gemacht. Gesichtserkennungssysteme, Emotionserkennungs-Tools und Stimmklonungstechnologie hängen alle davon ab, diese Datenkategorie in großem Umfang zu verarbeiten.

Wegen des erhöhten Risikos ist eine Datenschutz-Folgenabschätzung (DSFA) für solche Systeme nicht optional — sie ist vor Beginn der Verarbeitung verpflichtend. Eine DSFA muss die Verarbeitungsvorgänge und ihre Zwecke beschreiben, bewerten, ob die Verarbeitung notwendig und verhältnismäßig ist, Risiken für Einzelpersonen identifizieren und die Maßnahmen zu ihrer Bewältigung darlegen. Bei biometrischer KI muss diese Bewertung sich ehrlich mit Fragen auseinandersetzen, die in der Eile vor dem Launch leicht übersprungen werden: Wie genau ist das System über verschiedene demografische Gruppen hinweg? Was passiert, wenn es jemanden falsch identifiziert? Können Menschen sich abmelden, und welche Alternative wird ihnen dann angeboten? Aufsichtsbehörden fordern diese Bewertungen zunehmend als ersten Schritt jeder Untersuchung eines biometrischen KI-Einsatzes an — und ihr Fehlen wird als eigenständiger, erheblicher Compliance-Verstoß gewertet, unabhängig davon, was das zugrunde liegende System tatsächlich leistet.

Rechtmäßige Herkunft von Trainingsdaten

Die dritte Säule KI-spezifischer DSGVO-Risiken ist grundlegender, aber im Nachhinein womöglich schwerer zu beheben: Wurden die Trainingsdaten überhaupt rechtmäßig erhoben? Große Sprachmodelle und Bildgeneratoren werden häufig mit Daten trainiert, die vom offenen Web gescrapt, aus lizenzierten Datensätzen stammen oder aus historischen Unternehmensunterlagen, die zu ganz anderen Zwecken gesammelt wurden. Jede Quelle bringt eigene Compliance-Fragen mit sich. Gescrapte Daten wurden möglicherweise ohne jede Rechtsgrundlage für das Scraping selbst gesammelt, geschweige denn für ihre Zweckentfremdung im KI-Training. Lizenzierte Datensätze wurden womöglich nicht mit einer Einwilligung erhoben, die informiert genug war, um eine nachgelagerte KI-Nutzung zu tragen. Und interne Unterlagen, die vor Jahren für einen bestimmten Geschäftszweck gesammelt wurden, haben heute womöglich keine gültige Grundlage für eine Zweckentfremdung als Trainingsdatensatz.

Das ist ein Problem, das sich im Nachhinein nur schwer beheben lässt — bei einem Modell, das bereits mit unrechtmäßig erhobenen Daten trainiert wurde, lassen sich diese Daten nicht einfach „entfernen", wie man einen Datenbankeintrag löschen kann. Genau deshalb drängen Aufsichtsbehörden Organisationen dazu, die Herkunft ihrer Daten zu dokumentieren, bevor das Training beginnt, nicht erst, nachdem eine Beschwerde eingeht: eine klare Nachweiskette, die zeigt, woher jeder Datensatz stammt, welche Rechtsgrundlage für seine Erhebung galt, und ob diese Grundlage auch die Nutzung im KI-Training abdeckt.

Wenn KI-Ausgaben selbst zum Verstoß werden

Die vielleicht bedeutendste Verschiebung bei der Durchsetzung 2026 ist die Erkenntnis, dass DSGVO-Verstöße nicht nur daraus entstehen können, wie personenbezogene Daten gesammelt oder zum Training eines Modells genutzt werden, sondern auch aus dem, was ein eingesetztes Modell erzeugt. Das ist kein hypothetisches Szenario. Am 17. Februar 2026 eröffnete Irlands Datenschutzbehörde (Data Protection Commission) — die aufgrund des europäischen Hauptsitzes des Unternehmens in Dublin die DSGVO-Durchsetzung gegen X leitet — eine förmliche gesetzliche Untersuchung des Grok-Chatbots der Plattform, nachdem Berichte aufkamen, wonach Nutzer ihn aufforderten, nicht einvernehmliche, sexualisierte Deepfake-Bilder realer Personen zu erzeugen — in einigen gemeldeten Fällen auch von Kindern.

Die Untersuchung prüft, ob X die Daten von EU- und EWR-Nutzern beim Einsatz der Bildgenerierungs-Tools von Grok rechtmäßig verarbeitet hat, ob angemessene Schutzmaßnahmen bestanden und ob die Missbrauchsrisiken vor dem Launch ordnungsgemäß bewertet wurden. Die dahinterliegende Rechtsauffassung ist bedeutsam: Die Verwendung des Fotos einer realen Person als Grundlage zur Erzeugung eines sexualisierten oder anderweitig schädlichen synthetischen Bildes kann selbst eine unrechtmäßige Verarbeitung der personenbezogenen Daten dieser Person darstellen — unabhängig von etwaigen separaten strafrechtlichen oder plattformpolitischen Verstößen. Mit anderen Worten: Der Schaden entsteht nicht nur vorgelagert, bei der Art und Weise, wie Trainingsdaten gesammelt wurden. Er kann auch nachgelagert entstehen, im Moment der Erzeugung, in dem, was das eingesetzte System mit dem Abbild einer Person macht. X beschränkte die Bildgenerierung von Grok nach den Berichten auf zahlende Abonnenten, doch die Untersuchung — die potenzielle Bußgelder von bis zu 4 % des weltweiten Jahresumsatzes von X nach sich ziehen kann — läuft unabhängig davon weiter.

Für jede Organisation, die generative KI baut oder einsetzt, ist das eine entscheidende Unterscheidung. Schutzmaßnahmen dürfen nicht bei der Trainingspipeline enden; sie müssen sich auch darauf erstrecken, was das Modell zur Inferenzzeit erzeugen kann, und darauf, was passiert, wenn ein Nutzer es gezielt zu missbrauchen versucht.

Sechs Best Practices, um dem Risiko voraus zu sein

Quer durch behördliche Leitlinien, Durchsetzungsmaßnahmen und Branchenanalysen zeigen sich durchgängig sechs Praktiken, die Organisationen, die KI-bezogene DSGVO-Risiken gut managen, von den exponierten unterscheiden.

1. Datenschutz von Anfang an einbauen, nicht nachträglich. Privacy-by-Design ist eine DSGVO-Pflicht, kein Vorschlag — bei KI bedeutet das Datenschutzprüfungen bereits bei der Auswahl der Datensätze und der Modellarchitektur, nicht erst kurz vor dem Launch.
2. Tatsächlich nachvollziehen, wie personenbezogene Daten durch das System fließen. Von der Erfassung über das Training oder Fine-Tuning bis zur Inferenz und Ausgabe. Ohne diese Übersicht können die meisten Organisationen eine grundlegende Frage einer Aufsichtsbehörde nicht beantworten: Wo waren die Daten dieser Person, und was wurde damit gemacht?
3. Für jede Verarbeitungstätigkeit einen konkreten Zweck dokumentieren. „Unsere KI-Modelle verbessern" ist nicht konkret genug. Aufsichtsbehörden erwarten einen festgelegten Zweck für einen gegebenen Datensatz, dessen Nutzung auf diesen Zweck beschränkt bleibt.
4. DSFAs als Hürde behandeln, nicht als Formalität. Besonders bei biometrischen Systemen, groß angelegtem Profiling und automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung — die Bewertung abschließen, bevor Einsatzentscheidungen feststehen, nicht danach.
5. Die Entscheidung erklären können, nicht nur, dass eine getroffen wurde. Die DSGVO gibt Menschen wirksame Rechte in Bezug auf automatisierte Entscheidungsfindung. Organisationen müssen zunehmend in klarer Sprache erklären können, wie ein System zu einer Entscheidung gekommen ist, die jemanden betrifft.
6. Kontinuierlich überwachen, nicht jährlich. KI-Systeme driften, werden auf Weisen missbraucht, die ihre Entwickler nicht vorhergesehen haben, oder erzeugen schädliche Ausgaben, die erst im groß angelegten Einsatz sichtbar werden — wie die Grok-Untersuchung zeigt. Eine jährliche Compliance-Prüfung kommt zu selten, um das aufzufangen, bevor es zum aufsichtsrechtlichen Vorfall wird.

KI wird nicht weniger zentral dafür werden, wie Organisationen personenbezogene Daten verarbeiten, und Aufsichtsbehörden werden ihrer Nutzung nicht weniger Aufmerksamkeit widmen. Die Organisationen, die damit gut zurechtkommen, sind jene, die DSGVO-Compliance als fortlaufende technische und governance-bezogene Disziplin behandeln, die von Anfang an in KI-Systeme eingebaut wird — nicht als rechtliche Checkliste, die nachträglich abgehakt wird. Aufsichtsbehörden haben inzwischen gezeigt, dass sie nicht nur gegen die Art und Weise vorgehen, wie Daten fürs Training gesammelt werden, sondern auch gegen das, was eingesetzte Systeme tatsächlich erzeugen. Dieser Bewusstseinswandel ist nicht mehr optional.

Kostenlose Beratung mit GDPRGard buchen →

Quellen

• The Irish Times — DPC untersucht X wegen möglicher Verstöße im Zusammenhang mit der „Nudifizierung" von Bildern via Grok
• JURIST — Irland eröffnet Untersuchung zu Xs Grok-Bildern

Auch lesenswert:

• Die Ausrede „es war öffentlich" ist vorbei: Die DSGVO gilt jetzt formell für KI-Trainingsdaten
• Vergessen Sie die KI-Verordnung — die DSGVO bestraft Unternehmen schon jetzt für KI-Fehler
• Warum jedes SaaS-Unternehmen vor KI-Funktionen eine DSFA braucht