Sve više odluka na radnom mjestu počinje softverom. Alat rangira životopise prije nego ih recruiter pročita. Aplikacija dodjeljuje smjene i zadatke. Filtar za prijevare ili sustav ocjena odlučuje tko ostaje aktivan na platformi. Pogođeni često nikad ne saznaju tko je, ako je itko, to odobrio.
Europski regulatori sada određuju cijenu takvih pogrešaka. U kolovozu 2026. nizozemsko tijelo za zaštitu podataka kaznilo je Uber s 824.990.000 € jer je dopustilo da softver deaktivira račune vozača bez ikakve ljudske uključenosti. U rujnu je španjolski regulator upozorio jednu tvrtku zbog AI alata koji je namjeravala koristiti za probir kandidata. A do 2. prosinca 2026. države članice EU-a moraju prenijeti Direktivu o radu putem platformi, prema kojoj o suspenziji ili ukidanju nečijeg računa mora odlučiti čovjek, a ne algoritam.
Ovaj je članak samo opće informativne naravi i nije pravni savjet. Praktičan je vodič za vlasnike tvrtki, voditelje ljudskih resursa i produktne timove. Samu odluku o Uberu obradili smo u našem ranijem članku o odluci o Uberu; ovdje gledamo što ona znači za sve koji upravljaju ljudima pomoću softvera.
Zašto je algoritamsko upravljanje sada u fokusu
- Odluka o Uberu proširila se Europom. Autoriteit Persoonsgegevens (AP) objavio je kaznu 21. kolovoza 2026., francuski CNIL slijedio je 24. kolovoza, a Europski odbor za zaštitu podataka (EDPB) objavio je sažetak 8. listopada 2026.
- Španjolska je djelovala dvaput. Dana 23. rujna AEPD je objavio službeno upozorenje zbog AI alata za zapošljavanje. Dana 7. listopada izdao je smjernice o algoritamskim sustavima na radu, dva dana nakon što je stupila na snagu nova španjolska uredba o informiranju radnika o algoritmima.
- Rok je blizu. Direktiva (EU) 2024/2831 o radu putem platformi mora se prenijeti do 2. prosinca 2026.
- Moglo bi uslijediti još. Dana 6. listopada 2026. 2EU je izvijestio da je izvršna potpredsjednica Komisije Roxana Mînzatu rekla Europskom parlamentu da je algoritamsko upravljanje među temama koje se razmatraju za budući Zakon o kvalitetnim radnim mjestima (Quality Jobs Act). Tekst još nije objavljen, a tema koja se razmatra ne jamči konkretnu mjeru.
Što je Uber učinio i zašto je regulator rekao ne
Prema AP-u, Uber je od 2018. do 2022. koristio softver za praćenje ponašanja vozača i ocjena klijenata. Kad je sumnjao na prijevaru ili kad su ocjene bile preniske, račun vozača deaktivirao se automatski: privremeno ili trajno u slučaju stalno niskih ocjena. Nije bilo nikakve ljudske procjene, a vozači su tijekom deaktivacije gubili prihod od Ubera.
AP je utvrdio dva kršenja GDPR-a:
- Članak 22., koji osobama daje pravo da ne podliježu odluci koja se temelji isključivo na automatiziranoj obradi i koja proizvodi pravne učinke ili na sličan način značajno na njih utječe. CNIL objašnjava da su deaktivacije bile automatizirane odluke „zbog potpunog izostanka ljudske intervencije”, sa znatnim učinkom na vozače koji više nisu mogli zarađivati.
- Članak 13., jer vozači nisu bili ispravno informirani. Članak 13. stavak 2. točka (f) zahtijeva „smislene informacije o logici koja se primjenjuje” i posljedicama za osobu.
Važna su još tri detalja:
- Počelo je pritužbom. Njih 171 francuski vozač obratilo se Ligue des droits de l'Homme, koja je podnijela pritužbu CNIL-u. Budući da je Uberovo europsko sjedište u Nizozemskoj, AP je vodio slučaj prema GDPR-ovu mehanizmu jedinstvene kontaktne točke.
- Kazna je velika, ali nije maksimalna. Kazne po GDPR-u mogu doseći 4 % svjetskog prometa. AP je Uberov promet za 2025. procijenio na oko 44,5 milijardi €, pa kazna iznosi otprilike 1,9 %.
- Nije pravomoćna. Uber je prestao s tom praksom, ali osporava kaznu. To je četvrta kazna AP-a protiv Ubera, nakon 600.000 € 2018., 10 milijuna € 2023. i 290 milijuna € 2024.; posljednje dvije također su osporene.
„Čovjek u petlji” mora biti stvaran
Malo tvrtki gradi potpuno automatizirane strojeve za otkaze. Češći je rizik tiši: alat boduje ili rangira ljude, a čovjek ga samo formalno odobrava. Španjolski AEPD upravo se bavio time.
Njegovo upozorenje (AI-00009-2026) odnosilo se na alat, koji još nije u uporabi, a koji bi analizirao životopise, bodovao kandidate i davao im prioritet pri zapošljavanju i internoj mobilnosti. Tvrtka je navela da će konačnu odluku uvijek donijeti osoba, da alat zanemaruje osjetljiva obilježja i da se povremeno revidira. Upozorenje AEPD-a i njegova bilješka sa smjernicama od 7. listopada ipak postavljaju zahtjevan popis:
- Ljudska provjera mora biti sadržajna. Donositelj odluke mora moći kritički ocijeniti rezultat i odstupiti od njega. Ako je čovjek prisutan samo na papiru, članak 22. i dalje se može primjenjivati.
- Bilježite neslaganja. Evidentirajte kada se recenzenti udalje od automatizirane preporuke. Sustavni izostanak neslaganja može upućivati na to da se ljudi jednostavno oslanjaju na rezultat.
- Provjerite zamjenske varijable. Nije dovoljno reći da alat ne koristi osjetljive podatke; morate provjeriti djeluju li druge varijable kao njihova zamjena (proxy).
- Alati grupe ne prebacuju odgovornost. Ako alat centralno razvija korporativna grupa, lokalni subjekt koji ga koristi i dalje je odgovoran za vlastitu procjenu.
- Revizije moraju biti provjerljive. Dokumentirajte opseg, testiranu verziju sustava, stope pogrešaka, različite učinke, koliko je ljudski nadzor bio učinkovit i poduzete korektivne mjere. Tvrdnja da se sustavi „povremeno preispituju” nije dovoljna.
- Prvo procijenite. Procijenite rizike prije uporabe i, ako je rizik vjerojatno visok, provedite procjenu učinka na zaštitu podataka (DPIA). Članak 35. stavak 3. točka (a) GDPR-a zahtijeva je za sustavnu i opsežnu automatiziranu procjenu osoba na kojoj se temelje značajne odluke. Naš članak o tome zašto su AI chatbotovi problem za DPIA pokazuje što DPIA mora obuhvatiti.
Upozorenje nije kazna. No AEPD je naglasio da tvrtki stavlja teret prilagodbe i dokazivanja usklađenosti.
Španjolska je dodala i sloj radnog prava. Kraljevska uredba 723/2026, na snazi od 5. listopada 2026., obvezuje poslodavce da svakog radnika pisano obavijeste o algoritamskim ili automatiziranim sustavima odlučivanja i, ako oni određuju uvjete rada, o njihovim kriterijima i pravilima rada. Novi zaposlenici moraju biti obaviješteni prije početka rada; postojeći zaposlenici mogu to zatražiti, a poslodavac mora odgovoriti u roku od 30 radnih dana. AEPD napominje da to ne zamjenjuje transparentnost prema GDPR-u; obveze se preklapaju.
Odgovorite na nekoliko pitanja u našem GDPR stablu odlučivanja kako biste vidjeli koje se obveze primjenjuju na određenu uporabu osobnih podataka ili umjetne inteligencije.
Rad putem platformi: od 2. prosinca mora odlučiti čovjek
Direktiva o radu putem platformi prvi je zakon EU-a napisan posebno za algoritamsko upravljanje. Obuhvaća digitalne platforme rada koje organiziraju rad obavljen u EU-u, bez obzira na to gdje imaju sjedište, a njezina pravila o algoritamskom upravljanju štite sve koji rade putem platformi, uključujući osobe bez ugovora o radu. Ključna pravila uključuju:
- Zabranjeni podaci (članak 7.). Automatizirani sustavi ne smiju obrađivati podatke o emocionalnom ili psihološkom stanju ni o privatnim razgovorima, prikupljati podatke dok osoba ne radi, predviđati ostvarivanje prava poput sindikalnog djelovanja niti zaključivati o obilježjima poput etničkog podrijetla, zdravlja ili spolne orijentacije. Ta se ograničenja primjenjuju od zapošljavanja nadalje.
- DPIA kao zadano (članak 8.). Smatra se da obrada putem tih sustava vjerojatno predstavlja visok rizik, a platforme moraju zatražiti mišljenje radnika i njihovih predstavnika.
- Transparentnost (članak 9.). Radnici moraju biti obaviješteni o sustavima koji na njih utječu, uključujući njihove glavne parametre i razloge za suspenziju ili ukidanje računa, najkasnije do prvog radnog dana.
- Ljudski nadzor (članak 10.). Platforme moraju procjenjivati učinak automatiziranih odluka najmanje svake dvije godine, uz osoblje ovlašteno da ih poništi. Članak 10. stavak 5.: svaku odluku o ograničenju, suspenziji ili ukidanju računa „donosi čovjek”.
- Obrazloženje i preispitivanje (članak 11.). Osobe dobivaju pisano obrazloženje odluka poput suspenzije i mogu zatražiti preispitivanje, na koje se mora odgovoriti u roku od dva tjedna.
Tijela za zaštitu podataka provodit će članke 7. do 11., uz najviši GDPR-ov raspon kazni. Pitanja ostaju: usluga za usklađenost LexLint pita zadovoljava li trenutačna automatizirana suspenzija zbog sumnje na prijevaru, koju čovjek poslije pregleda, članak 10. stavak 5. Nacionalni zakoni mogli bi odgovoriti na to.
Akt o umjetnoj inteligenciji: što se već primjenjuje, a što dolazi
Akt o umjetnoj inteligenciji (Uredba (EU) 2024/1689) dodaje još jedan sloj:
- Već zabranjeno. Od 2. veljače 2025. članak 5. stavak 1. točka (f) zabranjuje umjetnu inteligenciju koja zaključuje o emocijama osoba na radnom mjestu ili u obrazovanju, osim iz medicinskih razloga ili razloga sigurnosti.
- Visok rizik od 2. prosinca 2027. Prilog III. navodi umjetnu inteligenciju koja se koristi za zapošljavanje i odabir osoba te za odluke o napredovanju, otkazu, dodjeli zadataka i praćenju uspješnosti. Nakon Digitalnog omnibusa o umjetnoj inteligenciji (Uredba (EU) 2026/1744, na snazi od 27. srpnja 2026.) ta se visokorizična pravila primjenjuju od 2. prosinca 2027. Cijeli vremenski okvir pogledajte u našem kalendaru usklađenosti s Aktom o umjetnoj inteligenciji.
- Obavijestite svoje zaposlenike. Prema članku 26. stavku 7., poslodavci koji na radu primjenjuju visokorizični sustav umjetne inteligencije moraju prije puštanja u uporabu obavijestiti predstavnike radnika i pogođene radnike. Članak 26. stavak 11. dodaje da se moraju obavijestiti osobe na koje se odnose odluke koje takvi sustavi donose ili im pomažu donijeti.
Prema pravu o zaštiti podataka ništa od toga ne čeka 2027. GDPR, uključujući članak 22., primjenjuje se na te alate već danas, a članak 88. omogućuje državama članicama da utvrde detaljnija pravila o podacima zaposlenika.
Praktični kontrolni popis za tvrtke koje koriste umjetnu inteligenciju za upravljanje ljudima
- ☐ Napravite popis svojih sustava odlučivanja: filtara za prijevare, pragova ocjena, bodovanja životopisa, dodjele smjena i nadzornih ploča uspješnosti, uključujući alate trećih strana.
- ☐ Pronađite „isključivo automatizirane” odluke koje blokiraju, odbijaju, deaktiviraju ili rangiraju ljude sa značajnim učincima.
- ☐ Učinite ljudsku provjeru stvarnom: dajte recenzentima vrijeme, podatke na kojima se temelji odluka, obuku i ovlast da nadglasaju sustav.
- ☐ Bilježite nadglasavanja. Ako se recenzenti nikad ne slažu s alatom, saznajte zašto.
- ☐ Provedite DPIA prije pokretanja i ažurirajte je kad se promijene model, podaci ili svrha.
- ☐ Jednostavnim jezikom objasnite što pokreće neku radnju i kako ljudi mogu postići da čovjek preispita njihov slučaj.
- ☐ Testirajte pristranost i zamjenske varijable i čuvajte revizijske zapise koje bi netko drugi mogao provjeriti.
- ☐ Provjerite da nijedan alat ne zaključuje o emocijama na radu.
- ☐ Rano uključite predstavnike radnika.
- ☐ Platforme: slijedite svoje nacionalno prenošenje Direktive o radu putem platformi i pobrinite se da o suspenzijama i ukidanjima odlučuje osoba.
- ☐ Planirajte 2. prosinca 2027., kad se primjenjuju visokorizična pravila Akta o umjetnoj inteligenciji za sustave u zapošljavanju.
Napomena za brazilske čitatelje
Brazilski su sudovi već primijenili pravo o zaštiti podataka na vozače putem aplikacija. U predmetu REsp 2.135.783-DF, odlučenom 18. lipnja 2024., Vrhovni sud pravde (STJ) utvrdio je da vozač uklonjen s platforme ima pravo, prema članku 20. LGPD-a (Zakon 13.709/2018), na preispitivanje automatiziranih odluka koje određuju njegov profesionalni profil. Sažeci presude dodaju da platforma može odmah suspendirati račun zbog teškog nedoličnog ponašanja, ali mora navesti razloge i naknadno omogućiti vozaču da odgovori. Jedna razlika: LGPD jamči preispitivanje, ali za razliku od GDPR-a izričito ne zahtijeva ljudsku intervenciju. Brazilske platforme koje organiziraju rad obavljen u EU-u također će potpasti pod Direktivu o radu putem platformi.
Zaključak
Slučaj Uber govori o vozačima, ali njegova pouka vrijedi za svaku organizaciju koja prepušta softveru odlučivanje o ljudima. Automatizacija sama po sebi nije nezakonita. Nezakonite su neobjašnjene odluke bez mogućnosti preispitivanja koje nekome ukidaju prihod ili karijeru. Poruka regulatora dosljedna je: recite ljudima kada su uključeni algoritmi, objasnite kako rade i iza važnih odluka postavite stvarnu osobu sa stvarnom ovlašću. Tvrtke koje to učine sada bit će spremne za prosinačka pravila o platformama, rok iz 2027. prema Aktu o umjetnoj inteligenciji i sve što donese Zakon o kvalitetnim radnim mjestima.
Rezervirajte besplatnu konzultaciju s GDPRGardom → i pomoći ćemo vam pregledati automatizirane odluke u vašim HR i operativnim alatima.
Izvori
- Autoriteit Persoonsgegevens: Uber krijgt boete van bijna 825 miljoen euro (21. kol. 2026.)
- EDPB: Dutch DPA fines Uber EUR 824 990 000 (8. lis. 2026.)
- CNIL: Automated decisions, Uber fined nearly EUR 825 million (24. kol. 2026.)
- Reuters: Dutch regulator fines Uber $966 million for automating driver suspensions (21. kol. 2026.)
- AEPD: La Agencia recuerda las garantías para utilizar IA en el análisis de currículums (23. ruj. 2026.)
- AEPD: Sistemas algorítmicos en el ámbito laboral (7. lis. 2026.)
- A&O Shearman: Spain, AEPD warns on use of AI in recruitment (13. lis. 2026.)
- EUR-Lex: Direktiva (EU) 2024/2831 o poboljšanju uvjeta rada putem platformi
- EU-OSHA: Direktiva 2024/2831/EU, rad putem platformi
- LexLint: Direktiva o radu putem platformi, članci 9. do 11.
- LawPlayer: Direktiva (EU) 2024/2831, članak 10. (ljudski nadzor)
- AI Act Service Desk: članak 26., obveze subjekata koji primjenjuju visokorizične sustave umjetne inteligencije
- AI Act Service Desk: Prilog III., visokorizični sustavi umjetne inteligencije
- White & Case: EU AI Omnibus enters into force, amending the AI Act
- 2EU: Commission brings algorithmic management into Quality Jobs Act work (6. lis. 2026.)
- GDPR, članci 13., 22., 35. i 88. (gdpr-info.eu)
- Dizer o Direito: STJ, REsp 2.135.783-DF (kol. 2024.)
- Brazil: LGPD, Zakon br. 13.709/2018
Pročitajte i:
- Uberova kazna od 825 mil. €: kad „algoritam je odlučio“ postane odgovornost
- Akt o UI-ju je odgođen, ne otkazan: vaš kalendar usklađenosti 2026. do 2028.
- Vaš AI chatbot ništa ne anonimizira