Vor drei Wochen wurden die Regeln der EU-KI-Verordnung für Hochrisiko-KI vollständig durchsetzbar, und der Großteil der Berichterstattung — auch unsere — ging an Unternehmen, die KI für Recruiting, Kreditwürdigkeitsprüfung oder kritische Infrastruktur bauen. Wenn Sie ein kleines oder mittleres europäisches Unternehmen führen, sind Sie das vermutlich nicht. Am selben Datum kam allerdings noch etwas anderes hinzu, und das betrifft Sie ziemlich sicher: die Pflichten, die am Einsatz fremder KI hängen.

Der Support-Chatbot auf Ihrer Website. Die Schaltfläche „Kunden zusammenfassen“ in Ihrem CRM. Der Assistent, der Antworten auf Bewertungen entwirft oder in Vertriebsgesprächen mitschreibt. Jedes dieser Werkzeuge verarbeitet personenbezogene Daten, und jedes beruht meist auf zwei Annahmen, die den Kontakt mit einer Aufsichtsbehörde nicht überstehen: dass die Compliance des Anbieters Sie mit abdeckt, und dass das, was das Modell mit den Daten macht, als anonym gilt.

Die Compliance Ihres Anbieters ist nicht Ihre Compliance

Wenn Sie ein KI-Tool an einen Prozess anschließen, der Kundendaten berührt, entscheiden Sie, warum diese Daten verarbeitet werden und wofür das Tool eingesetzt wird. Damit sind Sie Verantwortlicher — die Stelle, an die sich eine Aufsichtsbehörde zuerst wendet. Der Anbieter ist in den meisten Konstellationen Ihr Auftragsverarbeiter: Er handelt auf Ihre Weisung, auf Grundlage eines AV-Vertrags, und seine Zertifizierungen decken seine Infrastruktur und seine Sicherheitspraxis ab.

Was diese Zertifizierungen nicht abdecken, ist genau der Teil, nach dem Behörden fragen: Ihre Rechtsgrundlage dafür, die Daten überhaupt in das Tool zu geben, was Sie den betroffenen Personen gesagt haben, wie lange die Daten dort bleiben, ob sie die EU verlassen und ob vor dem Einschalten der Funktion jemand das Risiko bewertet hat. Nichts davon geht auf einen Lieferanten über, egal was auf dessen Trust-Seite steht. Falls die Abgrenzung der beiden Rollen bei Ihnen unscharf ist: Unser kostenloser Leitfaden Controller vs Processor arbeitet sie durch (auf Englisch).

Achten Sie auf die zweite Rolle. Manche KI-Anbieter verarbeiten Ihre Daten zusätzlich als eigene Verantwortliche — zur Modellverbesserung, zur Missbrauchserkennung oder für Produktanalysen — und sind für alles Übrige Ihr Auftragsverarbeiter. Diese Aufteilung steht meist in den allgemeinen Bedingungen und nicht im AV-Vertrag, und sie verändert sowohl die Verantwortlichkeit als auch das, was Sie Ihren Kundinnen und Kunden mitteilen müssen.

Warum „anonymisiert“ meistens nicht stimmt

Die häufigste Rechtfertigung für einen ungeprüften KI-Einsatz lautet, das Modell behalte ja nichts: Daten hinein, Antwort heraus, nichts Personenbezogenes bleibt zurück. Der Europäische Datenschutzausschuss hat dieses Argument in seiner Stellungnahme zu KI-Modellen vom Dezember 2024 auseinandergenommen. Bei einem Modell, das mit personenbezogenen Daten trainiert wurde, darf Anonymität nicht einfach unterstellt werden. Sie muss im Einzelfall nachgewiesen werden, und der Maßstab ist streng: Sowohl die Wahrscheinlichkeit, personenbezogene Daten aus dem Modell selbst zu extrahieren, als auch die Wahrscheinlichkeit, sie aus dessen Ausgaben zu erhalten, müssen unerheblich sein.

Für ein Unternehmen, das ein fremdes Tool einsetzt, ist die praktische Lesart enger und deutlich einfacher. Das Modell des Anbieters können Sie an diesem Maßstab in der Regel gar nicht messen, weil Ihnen die Trainingsdetails fehlen. Sichtbar ist für Sie der Teil, der im Alltag ohnehin mehr zählt: Ihre Eingaben sind personenbezogene Daten. Ein Support-Verlauf mit Namen, Bestellnummer und Beschwerde ist personenbezogen, bevor das Modell ihn überhaupt sieht — und bleibt es, während er in den Logs des Anbieters liegt, in einer Aufbewahrungsfrist, die Sie vermutlich nicht gewählt haben.

Wann die DSFA aufhört, optional zu sein

Artikel 35 verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung „voraussichtlich ein hohes Risiko“ für die Rechte und Freiheiten von Personen zur Folge hat. Die dazugehörige aufsichtsbehördliche Leitlinie nennt neun Kriterien; werden zwei davon erfüllt, führt man normalerweise eine DSFA durch. KI-Einsätze treffen mehrere davon regelmäßig: innovative Nutzung neuer Technologie, Verarbeitung in großem Umfang, Bewertung oder Scoring, Abgleich oder Zusammenführung von Datensätzen sowie Daten schutzbedürftiger Personen — wozu wegen des Ungleichgewichts im Arbeitsverhältnis auch Ihre eigenen Beschäftigten zählen.

Ein Chatbot, der eingehende Kundenanfragen bearbeitet, erfüllt plausibel zwei oder drei davon, bevor überhaupt jemand auf die Inhalte schaut. Mehrere nationale Behörden gehen weiter und führen KI oder „innovative Technologie“ ausdrücklich auf ihren Listen von Verarbeitungen, die immer eine DSFA erfordern.

Die Bewertung selbst ist kein Projekt. Es ist eine kurze Reihe von Fragen, die Sie schriftlich beantworten können müssen:

Die FrageWarum sie den Ausschlag gibt
Welche personenbezogenen Daten gehen tatsächlich hinein?Freitextfelder transportieren weit mehr als das, was Sie senden wollten — Gesundheitsangaben, Finanzbeschwerden, Namen Dritter.
Wer empfängt sie, und wo?Unterauftragsverarbeiter und Übermittlungsmechanismus, nicht nur der Firmensitz des Anbieters.
Werden Eingaben zum Training oder zur Verbesserung des Modells genutzt?Oft ein Schalter, manchmal standardmäßig aktiv. Ist er aktiv, brauchen Sie dafür eine Rechtsgrundlage und müssen es offenlegen.
Wie lange werden sie gespeichert?Anbieter-Voreinstellungen reichen von Tagen bis unbefristet und entsprechen selten der Frist in Ihrem eigenen Löschkonzept.
Kann ein Mensch eine falsche Ausgabe abfangen, bevor sie jemanden trifft?Wirksame menschliche Aufsicht ist der Punkt, an dem Artikel 22 DSGVO und die Erwartungen der KI-Verordnung zusammentreffen.
Was passiert bei einem Löschverlangen?Die Löschung muss das Tool und die Logs erreichen, sonst ist dem Antrag nicht entsprochen.

Schreiben Sie die Antworten auf, hängen Sie sie an Ihr Verarbeitungsverzeichnis, und Sie haben beides: die DSFA und den Eintrag nach Artikel 30. Das Dokument ist nicht der eigentliche Punkt. Der Punkt ist, dass die Fragen drei, vier und sechs überraschend oft unangenehme Antworten haben — und das merken Sie nur, wenn Sie sie stellen.

📋
GDPRGard Toolkit
Die Unterlagen, nach denen eine Behörde zuerst fragt

Editierbares AV-Vertragspaket, Toolkit für Betroffenenanfragen und Verarbeitungsverzeichnis nach Artikel 30 — die Papiere, die aus „wir nutzen ein KI-Tool“ etwas Nachweisbares machen. €39–€59 je Paket oder €99 für alle drei, sofort zum Download.

Zu den Vorlagen →

Zwei Transparenzregime, ein Chatbot

Jedes Jahr wählt der EDSA ein gemeinsames Thema, das alle nationalen Aufsichtsbehörden parallel prüfen. Für 2026 sind das die Transparenz- und Informationspflichten der Artikel 12–14: ob Ihre Datenschutzhinweise den Menschen in klarer Sprache sagen, was mit ihren Daten tatsächlich passiert. Hinweise, die 2018 für Cookies und einen Newsletter geschrieben wurden, erwähnen die seither ergänzten KI-Funktionen selten.

Parallel gelten seit dem 2. August 2026 auch die eigenen Transparenzregeln der KI-Verordnung. Menschen müssen erfahren, wenn sie mit einem KI-System statt mit einer Person interagieren, sofern das nicht ohnehin offensichtlich ist. KI-erzeugte Inhalte müssen maschinenlesbar als solche gekennzeichnet werden, Deepfakes müssen offengelegt werden, und wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen informieren.

Zwei Gesetze zeigen jetzt auf dasselbe Widget. Ob die Pflicht aus der KI-Verordnung formal bei Ihnen oder bei Ihrem Anbieter liegt, hängt davon ab, wer als Anbieter des Systems gilt — eine Grenze, die schnell verschwimmt, sobald Sie einen Chatbot unter eigener Marke einsetzen — aber der Hinweis, den Besucher sehen, erscheint auf Ihrer Seite, und die Transparenzpflicht der DSGVO trifft ohnehin eindeutig Sie.

In der Praxis sieht angemessene Offenlegung so aus: Der Bot sagt in seiner Eröffnungsnachricht, dass er ein Bot ist, nicht erst in einer Fußzeile; er tritt nicht ohne Klarstellung als menschlicher Vorname mit Stockfoto-Avatar auf; im Widget führt ein Link zu den Datenschutzhinweisen; und diese Hinweise benennen die KI-Verarbeitung, ihren Zweck, die Empfänger, die Speicherdauer und ob eine Entscheidung automatisiert getroffen wird.

Der Bußgeldrahmen, korrekt dargestellt

Für Verstöße gegen die KI-Verordnung liest man pauschal „35 Millionen Euro oder 7 % des Umsatzes“. Diese Stufe ist enger, als die Schlagzeile nahelegt, und die Unterscheidung zählt, weil für die meisten Betreiber eine andere Zahl gilt.

€35 Mio. / 7 %
Nur verbotene Praktiken — Artikel 5
€15 Mio. / 3 %
Die übrigen Pflichten, Transparenz inklusive
€7,5 Mio. / 1 %
Irreführende Angaben gegenüber einer Behörde
€20 Mio. / 4 %
DSGVO-Obergrenze, unverändert

Für KMU und Start-ups gilt jeweils der niedrigere der beiden Werte — ein bewusstes Verhältnismäßigkeitsventil für kleinere Unternehmen. Es hilft weniger, als es klingt, denn das Risiko besteht nicht in einem Bußgeld. Dasselbe Versäumnis kann zweimal bewertet werden, von zwei Behörden, nach zwei Gesetzen: Ein Chatbot, der ohne gültige Rechtsgrundlage Kundendaten erhebt und nie sagt, dass er ein Bot ist, ist zugleich ein DSGVO- und ein KI-Verordnungs-Problem.

Das trifft auf ein Vollzugsklima, das schon länger nicht mehr wählerisch ist. Die kumulierten DSGVO-Bußgelder haben 7,1 Milliarden Euro überschritten, und die täglichen Meldungen von Datenschutzverletzungen in der EU liegen über 400 — die Zahlen haben wir hier aufgeschlüsselt. Kleinere Unternehmen fliegen nicht mehr unter dem Radar wie 2020.

Ein 30-Tage-Plan für die Tools, die längst laufen

  1. Inventarisieren Sie die KI — auch die, die Sie nicht als KI gekauft haben. CRM-Zusammenfassungen, E-Mail-Assistenten, Meeting-Mitschriften, Bewertungsantworten, Übersetzungsfunktionen, Spam- und Betrugsscoring. Alles, was Kunden- oder Beschäftigtendaten an ein Modell schickt.
  2. Besorgen Sie die Unterlagen, Tool für Tool. Unterzeichneter AV-Vertrag, aktuelle Liste der Unterauftragsverarbeiter, Übermittlungsmechanismus bei Datenexport aus der EU und die dokumentierte Speicherdauer.
  3. Prüfen Sie den Trainingsschalter. Finden Sie heraus, ob Ihre Eingaben die Modelle des Anbieters verbessern. Schalten Sie ihn ab — oder halten Sie die Grundlage dafür fest, ihn anzulassen.
  4. Führen Sie die DSFA für die zwei, drei Tools mit den sensibelsten Daten durch. Je ein halber Tag, anhand der Fragen oben.
  5. Aktualisieren Sie die Datenschutzhinweise. Das ist das koordinierte Prüfthema 2026; ein Hinweis, der die KI-Verarbeitung nicht erwähnt, ist die einfachste Feststellung, die eine Behörde treffen kann.
  6. Reparieren Sie die Kennzeichnung in der Oberfläche selbst. Wenn Besucher nicht binnen weniger Sekunden erkennen, dass sie mit Software sprechen, ist das eine Compliance-Lücke, keine Designentscheidung.
  7. Setzen Sie eine Quartalsprüfung in den Kalender. Anbieter tauschen Modelle aus und ändern Bedingungen mitten im Vertrag — und Ihre Bewertung altert an genau diesem Tag.

Das Fazit

Für europäische KMU war DSGVO-Compliance früher das ganze Gespräch. Heute ist sie ungefähr die Hälfte davon — und die fehlende Hälfte ist nicht die exotische. Es ist der Chatbot, der live ging, weil er ein dreizeiliges Embed war: ohne DSFA dahinter, ohne Zeile in den Datenschutzhinweisen, ohne Kennzeichnung im Widget. Nichts davon braucht ein Quartal. Alles davon braucht länger als die Frist, die eine Aufsichtsbehörde Ihnen setzt.

Kostenlosen GDPRGard-Website-Check starten → für die Transparenz- und Cookie-Seite, oder ein kostenloses Beratungsgespräch buchen, wenn ein zweites Paar Augen auf einen KI-Einsatz schauen soll.

Quellen

Diesen Artikel teilen

Ebenfalls lesenswert:

⚠️ Dieser Artikel dient ausschließlich Informationszwecken und stellt keine Rechtsberatung dar. Pflichten aus DSGVO und KI-Verordnung hängen davon ab, wie ein konkretes Tool konfiguriert und eingesetzt wird, und die aufsichtsbehördliche Praxis entwickelt sich weiter — lassen Sie Ihre Situation von einer qualifizierten Datenschutzfachkraft prüfen.