Datenschutzbehörden wenden die DSGVO seit Jahren auf KI an, und die Verschiebung der KI-Gesetz-Fristen durch den Digital-Omnibus 2026 ändert daran nichts. Laut Durchsetzungs-Trackern haben Aufsichtsbehörden in Italien, Griechenland, Frankreich und den Niederlanden zwischen 2022 und 2024 den Gesichtserkennungsanbieter Clearview AI mit Bußgeldern belegt, und Italiens Garante ist gegen OpenAI, Replika und DeepSeek vorgegangen. Im Dezember 2024 ergänzte der Europäische Datenschutzausschuss (EDSA) das Bild um eine förmliche Stellungnahme zu KI-Modellen.
Die Bilanz ist nicht einseitig. Im März 2026 hob ein Gericht in Rom das 15-Millionen-EUR-Bußgeld des Garante gegen OpenAI auf, Berichten zufolge wegen der Zuständigkeit und nicht in der Sache. Dieser Artikel zeigt, was die EDSA-Stellungnahme und die Durchsetzungsbilanz, so unvollkommen sie ist, Unternehmen sagen, die heute KI entwickeln oder einkaufen. Er dient der allgemeinen Information und ist keine Rechtsberatung; er ergänzt unseren früheren Beitrag zu DSGVO-Bußgeldern für KI-Fehler und unseren Leitfaden dazu, wie sich DSGVO und KI-Gesetz überschneiden.
EDSA-Stellungnahme 28/2024: das Regelwerk für KI-Modelle
Der EDSA nahm die Stellungnahme im Dezember 2024 an (Quellen nennen den 17. oder 18. Dezember), auf Ersuchen der irischen Datenschutzkommission nach Artikel 64 Absatz 2 DSGVO. Sie beantwortet vier Fragen, zusammengefasst von Hunton und CMS.
- Anonymität. Ein Modell ist nur anonym, wenn zwei Bedingungen erfüllt sind: Die Wahrscheinlichkeit, personenbezogene Daten der Trainingsbetroffenen direkt, auch probabilistisch, zu extrahieren, ist unerheblich, und ebenso die Wahrscheinlichkeit, sie durch Abfragen zu erhalten. Behauptungen brauchen Dokumentation wie DSFAs und technische Schutzmaßnahmen, so William Fry.
- Berechtigtes Interesse. Es ist keine Standardgrundlage. Verantwortliche müssen einen Drei-Stufen-Test aus Interesse, Erforderlichkeit und Abwägung bestehen. Beispiele, die infrage kommen können, sind ein Gesprächsagent, der Nutzer unterstützt, Betrugserkennung und die Erkennung von Bedrohungen in Informationssystemen.
- Vernünftige Erwartungen. Relevante Faktoren sind, ob die Daten öffentlich waren, die Beziehung zum Verantwortlichen, die Art des Dienstes, Kontext und Quelle der Erhebung, weitere Verwendungen des Modells und ob die Menschen wissen, dass ihre Daten online sind.
- Abmildernde Maßnahmen. Dazu gehören Pseudonymisierung, synthetische Daten, Transparenz über die Artikel 13 und 14 hinaus und ein von Anfang an angebotenes Widerspruchsrecht.
- Rechtswidrige Entwicklung. Die Auswirkung auf den späteren Einsatz wird im Einzelfall bewertet. Abhilfemaßnahmen können ein Bußgeld, eine vorübergehende Beschränkung oder die Löschung der rechtswidrig verarbeiteten Daten und, wo das unmöglich ist, des gesamten Datensatzes oder des Modells umfassen, vorbehaltlich der Verhältnismäßigkeit, wie Baker McKenzie berichtet.
Zwei Punkte verdienen Betonung. Ist ein Modell tatsächlich anonym, gilt die DSGVO nicht für seinen späteren Betrieb, und frühere Rechtswidrigkeit sollte ihn nicht berühren. Und Betreiber dürfen nicht davon ausgehen, dass der Entwickler alles richtig gemacht hat: Sie müssen ihre eigene Konformität prüfen, mit einer dem Risiko angemessenen Tiefe.
Die Durchsetzungsbilanz
Die Tabelle fasst die wichtigsten Maßnahmen zusammen, die Durchsetzungs-Tracker und Kanzleikommentare berichten. Beträge und Daten stammen aus Sekundärquellen; die Originalentscheidungen wurden nicht geprüft.
| Behörde | Datum | Ziel | Maßnahme | Status |
|---|---|---|---|---|
| Garante (Italien) | Feb. 2022 | Clearview AI | 20 Mio. EUR Bußgeld; Verbot der biometrischen Verarbeitung; Löschung der Daten italienischer Einwohner | Stand eines Rechtsmittels nicht bestätigt |
| HDPA (Griechenland) | Jul. 2022 | Clearview AI | 20 Mio. EUR Bußgeld | Stand eines Rechtsmittels nicht bestätigt |
| CNIL (Frankreich) | Okt. 2022 | Clearview AI | 20 Mio. EUR Bußgeld | Stand eines Rechtsmittels nicht bestätigt |
| AP (Niederlande) | Sep. 2024 | Clearview AI | 30,5 Mio. EUR Bußgeld, plus ein mögliches weiteres Zwangsgeld von bis zu 5,1 Mio. EUR | Stand eines Rechtsmittels nicht bestätigt |
| Garante (Italien) | Ende 2024 (Quellen nennen Nov. oder Dez.) | OpenAI (ChatGPT) | 15 Mio. EUR Bußgeld und Anordnung einer Medienkampagne: keine Rechtsgrundlage für das Training, Transparenz, Altersverifikation, Meldung von Datenpannen | Vom Gericht in Rom am 18. März 2026 aufgehoben; eine mögliche Berufung des Garante wurde im Juni 2026 als in Erwägung berichtet |
| Garante (Italien) | Jan. 2025 | DeepSeek | Anordnung zur Sperrung der App in Italien; kein Bußgeld | Einzige Quelle |
| Garante (Italien) | Mai 2025 | Luka Inc. (Replika) | 5 Mio. EUR Bußgeld: keine wirksame Rechtsgrundlage, keine funktionierende Altersverifikation | Einzige Quelle; Ausgang unbekannt |
Quellen für die Tabelle: privacyterms, gdprfine, Blocksize und Wilson Sonsini. Letztere stammt von Anwälten von OpenAI und ist als parteiische Darstellung zu lesen.
Fünf Lehren aus der Bilanz
- Der Sitz bestimmt, wer Sie beaufsichtigt. Nach Sekundärberichten stellte das Gericht in Rom auf die Zuständigkeit nach dem One-Stop-Shop ab. OpenAI hatte im Februar 2024 die OpenAI Ireland Ltd gegründet, wodurch die irische Behörde federführend wurde, und das Gericht entschied nicht, ob die DSGVO verletzt wurde. Das Ergebnis ist ein Verfahrenssieg, kein Persilschein, und die irische Datenschutzkommission kann weiterhin tätig werden.
- Kinder und Altersverifikation kehren wieder. Der Garante rügte fehlende Alterskontrollen sowohl im Fall OpenAI als auch im Fall Replika. Jeder KI-Dienst, den Minderjährige erreichen können, sollte darlegen können, wie er das Alter einschätzt und den Umgang mit Kinderdaten begrenzt.
- Die Rechtsgrundlage fürs Training ist die Schwachstelle. Behörden werfen wiederholt vor, es gebe keine wirksame Grundlage für Trainingsdaten. Der Drei-Stufen-Test des EDSA bietet einen Weg, aber nur Verantwortlichen, die ihn dokumentieren können.
- Die territoriale Reichweite ist groß. Im Fall Clearview stützte sich der Garante auf den extraterritorialen Anwendungsbereich der DSGVO und verlangte einen EU-Vertreter, so privacyterms. Ein Anbieter außerhalb der EU steht nicht außerhalb des Regimes, wenn er Menschen in der EU beobachtet.
- Abhilfen gehen über Bußgelder hinaus. Sperrungen, Blockadeanordnungen und Löschungen ziehen sich durch die Bilanz. Die vorläufige Sperre von ChatGPT durch den Garante 2023 wurde nach Änderungen aufgehoben, wie gdprfine berichtet, und die EDSA-Stellungnahme sieht die Löschung von Datensätzen und letztlich von Modellen vor.
Der gemeinsame Faden: Aufsichtsbehörden stellen Grundfragen. Welche Daten sind eingeflossen, auf welcher Rechtsgrundlage, wer kann betroffen sein und was wurde den Menschen gesagt? Unternehmen, die diese Fragen schriftlich beantworten können, stehen deutlich besser da als jene, die es nicht können, unabhängig vom Ausgang eines einzelnen Falls.
Was Unternehmen jetzt tun sollten
Aus den Lehren ergibt sich eine kurze Liste von Maßnahmen für jede Organisation, die KI entwickelt, feinabstimmt oder einkauft.
- Rechtsgrundlage dokumentieren. Halten Sie für Training und Feinabstimmung die Rechtsgrundlage fest und, bei berechtigtem Interesse, eine schriftliche Drei-Stufen-Prüfung mit den gewählten Abmilderungsmaßnahmen.
- Anonymitätsbehauptungen prüfen. Wenn Sie oder ein Anbieter ein Modell als anonym bezeichnen, verlangen Sie Belege zu beiden EDSA-Bedingungen, keine Marketingaussage.
- Alter und schutzbedürftige Nutzer berücksichtigen. Wo Minderjährige einen Dienst nutzen können, führen Sie Altersprüfung und angepasste Voreinstellungen ein und bewahren Sie Nachweise dafür auf.
- Transparenz konkret machen. Gehen Sie über einen allgemeinen Hinweis hinaus: Nennen Sie, welche Quellen und Datenkategorien das Modell speisen und wie Menschen widersprechen können.
- Auf Betroffenenrechte vorbereiten. Legen Sie fest, wie Sie Auskunft, Widerspruch und Löschung handhaben, wenn personenbezogene Daten in Trainingsdaten oder Ausgaben stecken können.
- Federführende Behörde bestimmen. Wissen Sie, wo Sie niedergelassen sind, denn das bestimmt, welche Behörde federführend ist.
- Anbieter hinterfragen. Der EDSA erwartet, dass Betreiber ihre eigene Konformität prüfen; holen Sie daher von Lieferanten Erklärungen zur Herkunft der Trainingsdaten und zur Rechtsgrundlage ein.
Fazit
Die Durchsetzungsbilanz ist uneinheitlich, und Rechtsmittel zeigen, dass das Verfahren zählt. Dennoch ist die Richtung eindeutig. Aufsichtsbehörden erwarten von KI-Anbietern und -Betreibern, dass sie in vorzeigbaren Dokumenten erklären, warum personenbezogene Daten verwendet werden, wie Menschen geschützt sind und was passiert, wenn etwas schiefgeht. Das Warten auf die Hochrisiko-Termine des KI-Gesetzes ist kein Grund, diese Arbeit aufzuschieben.
Wie Ihre eigenen KI-Tools bei diesen Grundfragen abschneiden, sehen Sie mit dem GDPRGard-Audit-Tool.
Quellen
- CMS: EDPB Opinion 28/2024, key takeaways
- Hunton: EDPB publishes opinion on AI models
- William Fry: unwrapping the EDPB's guidance on AI models
- Baker McKenzie: EDPB opinion on AI models
- Wilson Sonsini: OpenAI prevails in Italian enforcement case (counsel for OpenAI)
- gdprfine: Italian Garante enforcement record
- privacyterms: AI privacy fines tracker
- Blocksize: GDPR and generative AI 2026
- SecurityWall: GDPR fines tracker 2026
Die Durchsetzungszahlen stammen aus Trackern und Kommentaren, die sich oft gegenseitig wiederholen; Übereinstimmung zwischen ihnen ist daher keine unabhängige Bestätigung. Daten widersprechen sich stellenweise (das OpenAI-Bußgeld wird auf November oder Dezember 2024 datiert), mehrere Punkte beruhen auf einer einzigen Quelle, und kein Originaltext einer Entscheidung oder eines Urteils wurde geprüft. Prüfen Sie die Unterlagen von Garante, CNIL, HDPA, AP und Gerichten, bevor Sie sich auf eine Zahl verlassen.
Auch lesenswert:
- Vergessen Sie die KI-Verordnung — die DSGVO bestraft Unternehmen schon jetzt für KI-Fehler
- Sind Ihre „anonymen“ Daten wirklich anonym? Der neue EDSA-Entwurf ändert den Test
- Die Ausrede "es war öffentlich" ist vorbei: Die DSGVO gilt jetzt formell für KI-Trainingsdaten