Kleine und mittlere Unternehmen nutzen KI heute in Marketing, Personalwesen, Kundenservice und Softwareentwicklung, oft über Tools, die Mitarbeitende ohne formale Entscheidung eingeführt haben. Aufsichtsbehörden entschuldigen ein Unternehmen nicht damit, dass seine KI als Abonnement ins Haus kam. Dieser Leitfaden erklärt, wie Sie ein angemessenes KI-Governance-Rahmenwerk aufbauen: welche Standards relevant sind, die sechs Bausteine, wie Sie KI-Kompetenz und menschliche Aufsicht handhaben und ein 90-Tage-Plan. Er dient der allgemeinen Information und ist keine Rechtsberatung.
Warum Governance nicht warten kann
Die Pflicht zur KI-Kompetenz im EU-KI-Gesetz gilt seit dem 2. Februar 2025. Nach dem Digital-Omnibus 2026 müssen Anbieter und Betreiber Maßnahmen ergreifen, die die Entwicklung von KI-Kompetenz fördern, ohne ein bestimmtes Niveau für jede einzelne Person zu garantieren, so Praxikon. Die Hochrisiko-Pflichten folgen ab dem 2. Dezember 2027 (siehe unseren Compliance-Kalender), und die DSGVO gilt bereits für jede KI, die personenbezogene Daten berührt, wie wir in Wo sich DSGVO und KI-Gesetz überschneiden erklären.
Governance ist der Weg, all das ohne großes Compliance-Team zu erfüllen. Sie bedeutet zu wissen, welche KI Sie nutzen, wer verantwortlich ist, welche Regeln gelten und wie Sie das belegen können. Der Omnibus dehnt außerdem Erleichterungen auf „Small Mid-Caps“ mit weniger als 750 Beschäftigten aus, darunter vereinfachte Dokumentationsvorlagen und angepasste Bußgeldobergrenzen, so Orrick. Angemessener Aufwand wird erwartet; gar keiner ist keine Option.
Drei Bezugspunkte: ISO/IEC 42001, NIST AI RMF und das KI-Gesetz
Ein kleines Unternehmen muss nicht jedes Rahmenwerk übernehmen. Es muss wissen, wofür jedes gedacht ist.
| ISO/IEC 42001 | NIST AI RMF | EU-KI-Gesetz | |
|---|---|---|---|
| Charakter | Internationale Norm für ein KI-Managementsystem, veröffentlicht 2023 | Freiwilliges US-Rahmenwerk | Verbindliche EU-Verordnung |
| Zertifizierbar | Ja, über akkreditierte Zertifizierungsstellen | Nein | Nein; für Hochrisiko-Systeme gilt die Konformitätsbewertung |
| Aufbau | Klauseln 4 bis 10 teilen die harmonisierte Struktur von ISO 27001; Anhang A bietet Referenzmaßnahmen | Vier Funktionen: Govern, Map, Measure, Manage | Risikostufen mit Pflichten für Anbieter, Betreiber und andere |
| Am besten geeignet für | Ein wiederholbares, prüfbares Programm | Risikodenken und Vokabular strukturieren | Festlegen, was Sie rechtlich müssen |
ISO/IEC 42001 passt zu Unternehmen, die bereits ISO 27001 oder ein ähnliches System betreiben, weil die Struktur vertraut ist und ein Zertifikat Großkunden beruhigen kann. TCSA weist darauf hin, dass Anhang A ein Referenzsatz ist, aus dem Sie in einer Anwendbarkeitserklärung Maßnahmen auswählen, keine verpflichtende Checkliste. Das NIST-Rahmenwerk ist leichter und kostenlos nutzbar und passt zu Teams, die eine Risikomethode ohne Zertifizierung wollen.
Keines ersetzt die rechtliche Compliance. Herausgeber von Rahmenwerken ordnen ihre Inhalte Artikeln des KI-Gesetzes zu, etwa Risikomanagement (Artikel 9), Daten-Governance (Artikel 10) und menschliche Aufsicht (Artikel 14), wie es Ampcus Cyber tut, doch diese Zuordnungen sind Orientierung, keine Rechtsberatung. Ein sinnvoller Weg für ein KMU: mit den vier NIST-Funktionen als Arbeitsstruktur beginnen und ISO 42001 später übernehmen, wenn Kunden ein Zertifikat verlangen.
Sechs Bausteine
Welches Rahmenwerk Sie auch wählen, die Arbeitsteile sind dieselben.
- KI-Inventar. Erfassen Sie jedes System mit Verantwortlichem, Zweck, verwendeten Daten, Anbieter und Nutzern. Gleichen Sie das Register mit dem ab, was Mitarbeitende tatsächlich nutzen, denn in der Lücke dazwischen verbirgt sich das Risiko.
- Rollen und Verantwortung. Benennen Sie einen Verantwortlichen auf Führungsebene, eine operative Leitung und Prüfer aus Recht, Sicherheit und Fachbereich. ISO 42001 erwartet definierte Rollen, auch wenn in einer kleinen Firma eine Person mehrere innehaben kann.
- KI-Richtlinie. Halten Sie sie kurz. Sie regelt zugelassene Tools, verbotene Nutzungen, Daten, die nie in öffentliche Tools gelangen dürfen, und wann menschliche Prüfung zwingend ist. TCSA schlägt vor, die Prüftiefe an einen Verifikationsschwellenwert je Risikostufe zu koppeln; dieses Modell ist ihr eigener Vorschlag, kein Standard.
- Risikoeinstufung. Prüfen Sie jeden Anwendungsfall gegen die verbotenen Praktiken und Hochrisiko-Kategorien des KI-Gesetzes und gegen die DSGVO-Auslöser für eine DSFA.
- Lieferantenprüfung. Verlangen Sie von Lieferanten Gebrauchsanweisungen, Bedingungen zu Datenverarbeitung und Aufbewahrung, ob Kundendaten ihre Modelle trainieren, Unterauftragsverarbeiter-Listen und Zusagen zur Meldung von Vorfällen. Spiegeln Sie die Antworten im Auftragsverarbeitungsvertrag.
- Überwachung und Vorfallbehandlung. Legen Sie fest, wie Probleme gemeldet werden, wer ein System anhalten darf und wie schwerwiegende Vorfälle die Aufsichtsbehörden erreichen, wo das Gesetz es verlangt.
Dasselbe Inventar speist das DSGVO-Verzeichnis von Verarbeitungstätigkeiten, sodass einmaliges Aufbauen beiden Regelwerken dient. Für ein Unternehmen mit einem Dutzend KI-Tools sind eine Tabelle und ein benannter Verantwortlicher ein legitimer Anfang; Raffinesse kann dem Risiko folgen.
KI-Kompetenz und menschliche Aufsicht
Schulung ist die unmittelbarste Pflicht. Ein praxistaugliches Programm hat drei Ebenen: eine kurze Basis für alle, die KI nutzen, rollenspezifische Module für Personal, Marketing, Finanzen oder Entwicklung und Auffrischungen, wenn sich ein System oder seine Nutzung ändert, wie TCSA empfiehlt. Weil der rechtliche Maßstab nun lautet, dass Sie Maßnahmen zur Förderung der Kompetenz ergreifen, werden dokumentierte Inhalte, Teilnahme und Rollenzuordnung zu Ihrem Nachweis.
Menschliche Aufsicht ist formal eine Hochrisiko-Anforderung, aber auch ein gutes Gestaltungsprinzip für risikoärmere Nutzungen. Nach Artikel 14 Absatz 4, wie TCSA ihn zusammenfasst, muss die aufsichtführende Person die Fähigkeiten und Grenzen des Systems verstehen, sich des Automatisierungsbias bewusst bleiben und die Ausgabe außer Acht lassen, übersteuern oder rückgängig machen können. Artikel 26 verlangt, dass Betreiber von Hochrisiko-Systemen die Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis übertragen.
Aufsicht scheitert, wenn sie nur nominell besteht. Wer fünfzig KI-generierte Entscheidungen pro Stunde sieht, ohne Zeit und Befugnis, sie anzuzweifeln, übt Aufsicht nur auf dem Papier aus. Prüfen Sie die Regelung mit drei Fragen:
- Kann die prüfende Person sehen, warum das System ein Ergebnis empfohlen hat?
- Hat die prüfende Person die Zeit und die Stellung, zu widersprechen?
- Hat in diesem Quartal tatsächlich jemand eine Empfehlung übersteuert?
Lauten die Antworten nein, nein und nie, muss die Kontrolle umgestaltet werden, bevor ein Prüfer oder eine Aufsichtsbehörde dasselbe feststellt. Dieselbe Logik stützt die DSGVO: Artikel 22 begrenzt Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen, und eine Scheinprüfung nimmt eine Entscheidung nicht aus dieser Grenze heraus.
Ein 90-Tage-Einführungsplan
Ein kleines Unternehmen kann in einem Quartal ein funktionierendes Programm aufsetzen. Der Plan unterstellt eine rechenschaftspflichtige Person als Verantwortlichen und Teilzeit-Beiträge aus Recht, IT und Fachbereich.
| Zeitraum | Maßnahmen | Ergebnis |
|---|---|---|
| Tage 1–30 | KI-Nutzung in allen Teams erfassen, Verantwortlichen benennen, einseitige Übergangsrichtlinie veröffentlichen, eindeutig riskante Nutzungen stoppen | KI-Register und Übergangsrichtlinie |
| Tage 31–60 | Anwendungsfälle einstufen, Bewertungen für die riskantesten durchführen, Bedingungen der wichtigsten Lieferanten prüfen, Basisschulung starten | Risikoregister, DSFAs, Lieferantenbefunde, Schulungsnachweis |
| Tage 61–90 | Aufsichts- und Vorfallverfahren definieren, in einer Planübung testen, Überprüfungsrhythmus festlegen, über ISO 42001 entscheiden | Aufsichtsverfahren, Vorfall-Playbook, Bericht an die Leitung |
Fazit
KI-Governance ist in einem kleineren Unternehmen eine Gewohnheit, kein Projekt. Ein kurzes Register, ein klarer Verantwortlicher, eine angemessene Richtlinie und Schulungsnachweise beantworten die meisten Fragen von Kunden, Prüfern und Aufsichtsbehörden. Beginnen Sie mit dem, was heute existiert, dokumentieren Sie es und lassen Sie das Rahmenwerk mit dem Risiko wachsen.
Um zu sehen, wo Ihre KI-Tools heute stehen, ist das GDPRGard-Audit-Tool ein guter erster Schritt.
Quellen
- Praxikon: Digital Omnibus and high-risk postponement
- Orrick: Digital Omnibus finalises 8 compliance changes
- EC-Council: EU AI Act, NIST AI RMF and ISO/IEC 42001 compared
- Cloud Security Alliance: how ISO 42001 and NIST AI RMF help with the AI Act
- Ampcus Cyber: NIST AI RMF vs ISO 42001 vs EU AI Act
- TCSA: AI competence and training obligations
Mehrere Quellen stammen von Anbietern, und die Zuordnungen der Rahmenwerke sind Orientierung, keine Rechtsanalyse. Prüfen Sie die Klauselnummern und Anhang-A-Angaben von ISO/IEC 42001 in der Norm selbst und die NIST-Dokumente auf nist.gov, bevor Sie sich darauf verlassen. Der neu gefasste Wortlaut von Artikel 4 stützt sich hauptsächlich auf Praxikon und TCSA und sollte an der Verordnung (EU) 2026/1744 geprüft werden.
Auch lesenswert:
- DSGVO und KI-Governance 2026: Die eine Hälfte der Reform ist Recht. Die andere steckt fest.
- Die Verschiebung der KI-Verordnung gilt nicht für Ihren Chatbot
- Die KI-Verordnung wurde verschoben, nicht abgesagt: Ihr Compliance-Kalender 2026 bis 2028