AI & automatizirano donošenje odluka

Radi li vaš ljudski nadzor zapravo nešto?

Članak 22. GDPR-a daje ljudima pravo na smisleni ljudski pregled automatiziranih odluka — ne na puko odobrenje bez razmišljanja. Ova samoprocjena izgrađena je izravno na temelju EDPS smjernica o tome što stvarni nadzor zahtijeva, a što regulatori tretiraju kao simboličan.

Temeljeno na EDPS TechDispatch #2/2025 — Ljudski nadzor automatiziranog donošenja odluka, i praktičnoj EDPS kontrolnoj listi o ljudskoj intervenciji (svibanj 2026.). U svrhu smjernica — nije pravni savjet.

Počnite ovdje: test s 4 uvjeta

Ako je bilo koji od ovih netočan, EDPS ne bi smatrao vaš nadzor „smislenim” — bez obzira na to kako ostatak kontrolne liste ocjenjuje.

Intervencija je moguća — sustav tehnički omogućuje čovjeku da pauzira, promijeni ili poništi odluku.

Informacije su dostupne — procjenitelj može vidjeti obrazloženje ili kontekst iza rezultata, ne samo konačan rezultat.

Djelovanje je stvarno — procjenitelj može poništiti bez straha od kazne ili poništavanja od strane politike.

Namjera je usklađena — procjenitelj je motiviran uočiti pogrešne ili nepravedne ishode, ne samo obraditi obujam.

Upravljanje & protokol

Postoje li pravila za ljudski pregled na papiru, i potkopava li ih nešto u praksi.

Pisani protokol definira kada je ljudski pregled obvezan — nije prepušten individualnoj prosudbi.

Protokol određuje što procjenitelj zapravo može učiniti: odobriti, odbiti, eskalirati ili zatražiti više informacija.

Odgovornost za odluku jasno je dodijeljena — nije raspršena između „sustava” i „procjenitelja”.

Nijedna metrika izvedbe (brzina, propusnost, stopa odobrenja) implicitno ne obeshrabruje poništavanje sustava.

Pogođenim pojedincima govori se da je odluka uključivala automatizaciju, i kako zatražiti ljudski pregled.

Dizajn sustava & sučelja

Pomaže li sam alat čovjeku da ispravno pregleda, ili ga tiho gura da klikne „odobri”.

Sučelje pokazuje dovoljno obrazloženja za procjenu odluke — ne samo konačan rezultat ili oznaku.

Rezultati niske pouzdanosti ili granični slučajevi označeni su za bliži pregled, umjesto što se prikazuju s jednakom sigurnošću.

Procjenitelj ima dovoljno vremena — tijek rada nije izgrađen tako da se po zadanim postavkama odobri u sekundama.

Gdje je prikladno, procjenitelji formiraju početno mišljenje prije nego što vide preporuku sustava.

Sučelje ne potiče brzo prihvaćanje — nema jednoklikni „potvrdi” s otporom dodanim samo za neslaganje.

Spremnost operatera

Je li čovjek koji obavlja pregled zapravo opremljen za to.

Procjenitelji su osposobljeni o tome kako sustav radi, uključujući njegove poznate načine kvarova.

Procjenitelji su vidjeli stvarne primjere kad je sustav pogriješio.

Procjenitelji znaju što učiniti kad su nesigurni — put eskalacije postoji i doista se koristi.

Procjenitelji imaju stručnost u struci za procjenu rezultata (pravnu, financijsku, medicinsku itd.).

Revizija & odgovornost

Provjerava li itko da nadzor ostaje stvaran tijekom vremena.

Stope poništavanja i neslaganja prate se tijekom vremena.

Neuobičajeno visoka stopa prihvaćanja pokreće provjeru je li nadzor istinski ili simboličan.

Postoji kanal za pogođene pojedince da prijave pogreške ili nepravdu.

Nalazi revizija i pritužbi ulaze u promjene sustava ili procesa — ne samo u zapisnik.

Druga osoba pregledava odluke visokog rizika prije nego što stupe na snagu, gdje je proporcionalno.

Označite gornje kućice da vidite svoj rezultat

Vaši odgovori ostaju u ovom pregledniku dok napredujete. Unesite svoju e-poštu kad budete spremni otključati svoj personalizirani rezultat i primiti kopiju.

Otključajte svoj rezultat

Pogledajte svoju personaliziranu procjenu nadzora odmah, a poslat ćemo vam kopiju e-poštom.

Niste sigurni gdje su nedostaci?

Kratka revizija može vam točno reći koje od ovih kontrola nedostaju, i što njihovo popravljanje zapravo uključuje za vašu tvrtku.

Zatraži GDPR reviziju

19 stavki još nije provjereno
od 19

Počnite označavati kućice