KI & automatisierte Entscheidungsfindung

Bewirkt Ihre menschliche Aufsicht tatsächlich etwas?

Artikel 22 DSGVO gibt Menschen das Recht auf eine bedeutungsvolle menschliche Überprüfung automatisierter Entscheidungen — keinen Stempel. Diese Selbsteinschätzung basiert direkt auf EDPS-Leitlinien dazu, was echte Aufsicht erfordert und was Behörden als symbolisch einstufen.

Basierend auf EDPS TechDispatch #2/2025 — Human Oversight of Automated Decision-Making und der praktischen EDPS-Checkliste zu menschlichem Eingreifen (Mai 2026). Nur zur Orientierung — keine Rechtsberatung.

Starten Sie hier: der 4-Bedingungen-Test

Wenn eine dieser Bedingungen nicht erfüllt ist, würde der EDPS Ihre Aufsicht nicht als „bedeutungsvoll“ einstufen — unabhängig vom restlichen Checklisten-Ergebnis.

Eingreifen ist möglich — das System erlaubt es einem Menschen technisch, die Entscheidung zu pausieren, zu ändern oder zu übersteuern.

Informationen sind verfügbar — die prüfende Person sieht die Begründung oder den Kontext hinter dem Ergebnis, nicht nur einen finalen Score.

Handlungsfreiheit ist real — die prüfende Person kann übersteuern, ohne Strafen zu fürchten oder von Richtlinien überstimmt zu werden.

Die Motivation stimmt — die prüfende Person will falsche oder unfaire Ergebnisse finden, nicht nur Volumen abarbeiten.

Governance & Protokoll

Ob die Regeln für menschliche Überprüfung schriftlich existieren — und ob sie in der Praxis unterlaufen werden.

Ein schriftliches Protokoll definiert, wann menschliche Überprüfung Pflicht ist — es bleibt nicht dem Einzelnen überlassen.

Das Protokoll legt fest, was die prüfende Person konkret tun kann: genehmigen, ablehnen, eskalieren oder weitere Informationen anfordern.

Die Verantwortung für die Entscheidung ist klar zugewiesen — nicht diffus zwischen „dem System“ und „der prüfenden Person“ verteilt.

Keine Leistungskennzahl (Geschwindigkeit, Durchsatz, Genehmigungsquote) hält implizit vom Übersteuern ab.

Betroffene werden informiert, dass eine Entscheidung Automatisierung beinhaltete und wie sie menschliche Überprüfung verlangen können.

System- & Interface-Design

Ob das Tool selbst eine ordentliche Prüfung unterstützt — oder still zum „Genehmigen“-Klick drängt.

Das Interface zeigt genug Begründung, um die Entscheidung zu bewerten — nicht nur einen Score oder ein Label.

Ergebnisse mit geringer Konfidenz oder Grenzfälle werden zur genaueren Prüfung markiert, statt mit gleicher Sicherheit angezeigt.

Die prüfende Person hat genug Zeit — der Workflow ist nicht darauf ausgelegt, standardmäßig in Sekunden genehmigt zu werden.

Wo angemessen, bilden sich Prüfende zuerst eine eigene Meinung, bevor sie die Empfehlung des Systems sehen.

Das Interface fördert keine schnelle Zustimmung — kein Ein-Klick-„Bestätigen“ mit Reibung nur beim Widersprechen.

Bereitschaft der Anwender

Ob der prüfende Mensch tatsächlich dafür gerüstet ist.

Prüfende sind geschult, wie das System funktioniert, einschließlich bekannter Fehlermodi.

Prüfende haben echte Beispiele gesehen, in denen das System falsch lag.

Prüfende wissen, was bei Unsicherheit zu tun ist — ein Eskalationspfad existiert und wird genutzt.

Prüfende haben die Fachkompetenz, das Ergebnis zu bewerten (juristisch, finanziell, medizinisch usw.).

Audit & Rechenschaft

Ob jemand prüft, dass die Aufsicht über die Zeit real bleibt.

Übersteuerungs- und Widerspruchsraten werden über die Zeit erfasst.

Eine ungewöhnlich hohe Zustimmungsquote löst eine Prüfung aus, ob die Aufsicht echt oder symbolisch ist.

Es gibt einen Kanal, über den Betroffene Fehler oder Unfairness melden können.

Ergebnisse aus Audits und Beschwerden fließen in System- oder Prozessänderungen — nicht nur in ein Protokoll.

Eine zweite Person prüft folgenreiche Entscheidungen vor deren Wirksamwerden, wo verhältnismäßig.

Haken Sie die Kästchen oben ab, um Ihr Ergebnis zu sehen

Ihre Antworten bleiben während der Bearbeitung in diesem Browser. Geben Sie Ihre E-Mail ein, wenn Sie bereit sind, Ihr persönliches Ergebnis freizuschalten und eine Kopie zu erhalten.

Ergebnis freischalten

Sehen Sie jetzt Ihre persönliche Aufsichts-Bewertung, und wir senden Ihnen eine Kopie per E-Mail.

Nicht sicher, wo die Lücken sind?

Ein kurzes Audit kann Ihnen genau sagen, welche dieser Kontrollen fehlen und was ihre Behebung für Ihr Unternehmen konkret bedeutet.

DSGVO-Audit anfordern

19 Punkte noch nicht abgehakt
von 19

Beginnen Sie mit dem Abhaken