Může algoritmus rozhodnout, že s vámi firma končí? Spor řidičů s Uberem v Nizozemsku ukazuje, že bez skutečného lidského posouzení nikoli. Odvolací soud v Amsterdamu označil lidskou kontrolu automatických deaktivací za pouze symbolickou a nizozemský úřad pro ochranu osobních údajů letos Uberu uložil pokutu téměř 825 milionů eur. Případ je důležitým varováním pro každou firmu, která využívá profilování nebo AI při řízení lidí.
Uber používal software, který sledoval jízdní chování řidičů a hodnocení od zákazníků. Pokud systém vyhodnotil podezření z podvodu – například zbytečné objíždění trasy kvůli vyššímu jízdnému – nebo pokud měl řidič příliš nízké hodnocení, jeho účet se automaticky deaktivoval. Dočasně, nebo i trvale. Řidič tím ze dne na den přišel o příjem a často ani nevěděl proč.
Řidiči se za podpory organizace Worker Info Exchange a britské odborové organizace ADCU obrátili na nizozemské soudy, protože Uber má evropské sídlo v Amsterdamu. Nežalovali přitom podle pracovního práva, ale podle čl. 22 GDPR, který dává každému právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud ho takové rozhodnutí významně zasahuje.
V první instanci v roce 2021 Uber uspěl. Soud uvěřil, že deaktivacím předcházelo šetření specializovaného týmu, a tedy smysluplný lidský zásah.
Zlom přišel 4. dubna 2023. Odvolací soud v Amsterdamu (ECLI:NL:GHAMS:2023:793) dospěl k opačnému závěru:
Uber požadované informace řidičům neposkytl. V říjnu 2023 mu proto soud vyměřil penále 4 000 eur za každý den prodlení, které v té době dosáhlo 584 000 eur.
Dosud nejsilnější signál přišel 21. srpna 2026. Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) uložil Uberu pokutu 824 990 000 eur – druhou nejvyšší v historii GDPR. Podle úřadu Uber v letech 2018 – 2022 rozhodoval o deaktivaci účtů řidičů plně automatizovaně a řidiče o tom navíc dostatečně neinformoval.
Řízení odstartovala stížnost 171 francouzských řidičů podaná prostřednictvím Ligue des droits de l'Homme. Výše pokuty vychází z celosvětového obratu společnosti. Uber s rozhodnutím nesouhlasí, považuje pokutu za nepřiměřenou a podal opravný prostředek. Tvrdí, že šlo o historické postupy a že dnes jeho rozhodování zahrnuje lidský přezkum i možnost odvolání.
Případ Uber se netýká jen platforem. Stejné otázky řeší každá firma, která pomocí algoritmu třídí uchazeče, hodnotí výkon, přiděluje práci nebo ukončuje spolupráci. Do budoucna z něj plyne šest praktických ponaučení.
1. Lidský dohled musí být skutečný, ne formální. Nestačí, že na konci procesu někdo klikne na „schválit“. Člověk musí posoudit okolnosti konkrétního případu, mít pravomoc výsledek algoritmu změnit a mít k tomu potřebné znalosti. Stejný požadavek klade na vysoce rizikové systémy i čl. 14 AI Actu.
2. Lidský přezkum je třeba umět doložit. Uber u soudu neuspěl mimo jiné proto, že nedokázal ukázat, kdo rozhodnutí přezkoumával a s jakou kvalifikací. Evidujte, kdo rozhodl, z jakých podkladů vycházel a jak často výstup systému změnil. Pokud ho nemění nikdy, je to varovný signál.
3. Rozhodnutí musíte umět vysvětlit. Dotčený člověk má právo na vysvětlení, jaké jeho údaje a jak systém použil. Soudní dvůr EU to potvrdil v rozsudku C-203/22 Dun & Bradstreet Austria. Obchodní tajemství dodavatele není důvod vysvětlení odmítnout – smluvně si proto zajistěte, aby vám dodavatel potřebné informace poskytl.
4. Informujte předem a nastavte možnost odvolání. Lidé musí vědět, že o nich rozhoduje nebo spolurozhoduje algoritmus, a musí mít cestu, jak rozhodnutí napadnout a požádat o lidský přezkum. Standardní automatická zpráva bez jakéhokoli vysvětlení je přesně to, co úřady i soudy kritizují.
5. Ochrana se netýká jen zaměstnanců. Řidiči Uberu uspěli díky GDPR, nikoli díky pracovnímu právu. Stejná pravidla proto platí i při algoritmickém řízení OSVČ, freelancerů či dodavatelů. Pro platformy navíc přináší další povinnosti směrnice (EU) 2024/2831 o platformové práci, podle níž rozhodnutí o ukončení nebo pozastavení spolupráce nesmí zůstat jen na algoritmu.
6. Rizika porostou. Pokuty podle GDPR mohou dosáhnout až 4 % celosvětového obratu a případ Uber ukazuje, že úřady jsou ochotny tento rámec využít. Od 2. 12. 2027 se navíc na AI systémy pro nábor, hodnocení a ukončování pracovních vztahů začnou vztahovat povinnosti pro vysoce rizikové systémy podle přílohy III AI Actu. Čas do té doby je vhodné využít k inventuře a nastavení procesů.
V českém prostředí k tomu přistupuje ještě zákoník práce: samotný výstup algoritmu není výpovědním důvodem. Více o tom píšeme v článku AI v HR: příležitosti a limity využití umělé inteligence v pracovněprávních vztazích.
Případ Uber ukazuje, že algoritmus nemůže sám rozhodnout o ukončení spolupráce s člověkem. Lidská kontrola, která výsledek jen formálně potvrdí, nestačí, obchodní tajemství nechrání před povinností rozhodnutí vysvětlit a sankce mohou dosáhnout stovek milionů eur. Pro HR to znamená nastavit skutečný a doložitelný lidský přezkum, informovat dotčené osoby a připravit se na povinnosti AI Actu pro vysoce rizikové systémy.
S čím vám můžeme pomoci:
Pokud ve firmě používáte algoritmy při řízení lidí, ozvěte se nám – rádi vám pomůžeme.
Mohlo by vás zajímat:
Odpovědi na otázky, které od klientů slýcháme nejčastěji.
Robo-firing označuje situaci, kdy o ukončení spolupráce s pracovníkem fakticky rozhodne algoritmus, typicky deaktivací účtu na platformě, aniž by případ smysluplně posoudil člověk. Nejznámějším příkladem je spor řidičů s Uberem v Nizozemsku, kde odvolací soud v Amsterdamu v roce 2023 dospěl k závěru, že lidská kontrola algoritmických rozhodnutí byla jen symbolická, a rozhodnutí proto byla výlučně automatizovaná ve smyslu čl. 22 GDPR.
Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) uložil Uberu 21. srpna 2026 pokutu 824 990 000 eur, protože podle něj Uber v letech 2018–2022 deaktivoval účty řidičů plně automatizovaně, bez lidského posouzení. Software sledoval jízdní chování a hodnocení od zákazníků a při podezření z podvodu nebo nízkém hodnocení účet automaticky zablokoval. Úřad v tom spatřuje porušení zákazu výlučně automatizovaného rozhodování podle čl. 22 GDPR a nedostatečné informování řidičů. Jde o druhou nejvyšší pokutu v historii GDPR. Uber se proti ní brání.
Článek 22 GDPR dává každé fyzické osobě právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování osobních údajů, včetně profilování, pokud má takové rozhodnutí právní účinky nebo ji obdobně významně zasahuje. Typicky jde o zamítnutí žádosti o práci, ukončení spolupráce nebo zablokování přístupu k výdělku. Výjimky existují například pro plnění smlouvy nebo s výslovným souhlasem, ale i tehdy musí mít dotčená osoba právo na lidský zásah, právo vyjádřit svůj názor a právo rozhodnutí napadnout.
Ne vždy. Podle soudní praxe i nizozemského dozorového úřadu musí člověk okolnosti konkrétního případu skutečně posoudit a musí mít pravomoc výsledek algoritmu změnit. Pokud výstup systému jen mechanicky potvrzuje, jde stále o výlučně automatizované rozhodnutí. Zaměstnavatel by měl umět doložit, kdo rozhodnutí přezkoumal, jakou má kvalifikaci, z jakých podkladů vycházel a jak často výsledek algoritmu změnil.
Zpravidla ne. Odvolací soud v Amsterdamu ve sporu s Uberem odmítl, že by obchodní tajemství nebo bezpečnost platformy opravňovaly zamlčet důvody automatizovaného rozhodnutí. Soudní dvůr EU v rozsudku C-203/22 Dun & Bradstreet Austria potvrdil právo na srozumitelné vysvětlení, jaké údaje a jakým způsobem byly při automatizovaném rozhodnutí použity. Nemusí jít o zveřejnění zdrojového kódu, ale o vysvětlení, které dotčenému člověku umožní rozhodnutí pochopit a napadnout.
Ochrana podle čl. 22 GDPR se týká každé fyzické osoby, nikoli jen zaměstnanců. Řidiči Uberu uspěli právě díky GDPR, přestože jejich pracovněprávní postavení bylo sporné. Pokud tedy firma algoritmicky hodnotí, omezuje nebo ukončuje spolupráci s OSVČ, freelancery či dodavateli, musí počítat se stejnými požadavky na lidský přezkum, informování a vysvětlení rozhodnutí.
Samotný výstup AI výpovědním důvodem není. Zaměstnavatel může dát výpověď jen z důvodů uvedených v § 52 zákoníku práce a musí je umět prokázat. AI může sloužit jako nástroj pro sběr a vyhodnocení podkladů, například o pracovním výkonu, ale rozhodnutí musí udělat člověk, který podklady skutečně posoudí. Vedle zákoníku práce je nutné dodržet také čl. 22 GDPR a od 2. 12. 2027 i povinnosti AI Actu pro vysoce rizikové systémy používané v zaměstnání.
AI systémy používané pro nábor, výběr uchazečů, hodnocení výkonu, přidělování úkolů nebo rozhodování o ukončení pracovního vztahu řadí AI Act v příloze III bodu 4 mezi vysoce rizikové systémy. Po změně nařízením (EU) 2026/1744, tzv. digitálním omnibusem, se na ně povinnosti pro vysoce rizikové systémy vztahují od 2. prosince 2027. Pravidla GDPR pro automatizované rozhodování přitom platí už nyní, jak ukazuje případ Uber.
Z případu Uber vyplývá pět základních kroků:
