Stav právních údajů k 22. 10. 2026.
Situace z praxe
Personalista dostane nabídku nástroje, který prý z videohovorů „přečte emoce” uchazečů: nervozitu, nadšení, upřímnost. Vypadá to jako konkurenční výhoda při náboru. Ve skutečnosti je to ukázkový příklad použití, které nařízení (EU) 2024/1689 (AI Act) na pracovišti výslovně zakazuje. Odvozování emocí osob na pracovišti a ve vzdělávacích institucích je zakázaným postupem podle čl. 5 odst. 1 písm. f) nařízení, s výjimkou lékařských a bezpečnostních důvodů. Nasazení takového nástroje by nebylo odvážné, bylo by protiprávní.
Zakázané postupy, které potkáte nejspíš
Čl. 5 odst. 1 nařízení obsahuje uzavřený seznam zakázaných praktik. Pro běžnou firemní praxi jsou nejdůležitější tyto:
- podprahová manipulace a klamavé techniky, které podstatně narušují rozhodování a způsobují nebo pravděpodobně způsobí významnou újmu (písm. a),
- zneužití zranitelnosti dané věkem, zdravotním postižením nebo sociální či ekonomickou situací, které podstatně naruší chování a způsobuje nebo pravděpodobně způsobí významnou újmu (písm. b),
- sociální kredit: hodnocení lidí podle chování nebo vlastností, které vede k nepříznivému zacházení v nesouvisejících souvislostech nebo k zacházení neodůvodněnému či nepřiměřenému (písm. c),
- odvozování emocí na pracovišti a ve školách (písm. f),
- biometrická kategorizace odvozující citlivé vlastnosti, například rasu, politické názory nebo sexuální orientaci (písm. g).
Zákazy platí od 2. 2. 2025 a pokuty za jejich porušení jsou nejvyšší v celém nařízení: podle čl. 99 odst. 3 až 35 milionů eur nebo 7 % celosvětového ročního obratu, podle toho, která hodnota je vyšší (u malých a středních podniků podle odst. 6 ta nižší). Novela AI Act, nařízení (EU) 2026/1744, přidala od 2. 12. 2026 dva další zákazy (písm. ba) a bb). Míří na systémy AI, které bez výslovného souhlasu dotčené osoby vytvářejí realistické intimní nebo sexuálně explicitní snímky a nahrávky identifikovatelného člověka nebo s nimi manipulují, a na systémy, které vytvářejí dětskou pornografii. Zakázané je uvádět takové systémy na trh, pokud je vytváření tohoto materiálu jejich účelem nebo předvídatelným výsledkem a nemají přiměřené pojistky, a používat systém AI k vytváření tohoto materiálu (čl. 5 odst. 1a).
Praktický důsledek pro vás: když nabídka nástroje slibuje čtení emocí, skryté ovlivňování zákazníků nebo „skóre důvěryhodnosti” lidí, není to téma na vyzkoušení zdarma. Je to téma na okamžitou konzultaci s odpovědnou osobou.
Vysoce rizikové systémy: kdy AI rozhoduje o lidech
O stupeň níže než zákazy stojí vysoce rizikové systémy. Ty se používat smí, ale pod přísnými povinnostmi (dokumentace, řízení rizik, lidský dohled, registrace). Patří sem mimo jiné systémy pro nábor a řízení zaměstnanců (třídění životopisů, hodnocení výkonu) a systémy rozhodující o přístupu k úvěrům a dalším základním službám. Povinnosti pro tyto systémy se po novele AI Act použijí od 2. 12. 2027.
Jako zaměstnanec nemusíte umět klasifikaci provést. Stačí jednoduchý signál: jakmile nástroj AI rozhoduje nebo spolurozhoduje o lidech, o jejich práci, penězích, přístupu ke službám, často jde o vysoce rizikovou kategorii podle přílohy III nařízení. Proto nasazení musí předem posoudit odpovědná osoba.
Co musí organizace zajistit u vysokého rizika
Z povinností zavádějícího subjektu podle čl. 26 nařízení jsou pro zaměstnance přímo viditelné dvě.
- Skutečný lidský dohled (odst. 2): dohledem musí být pověřeny osoby, které mají nezbytnou způsobilost, odbornou přípravu a pravomoc. „Odklikávač”, který každé doporučení systému bez přemýšlení potvrdí, není dohled. Kdo dohledem pověřen je, musí umět výstupu rozumět, zpochybnit ho a zasáhnout.
- Informování zaměstnanců předem (odst. 7): před uvedením vysoce rizikového systému AI do provozu na pracovišti zaměstnavatel informuje zástupce zaměstnanců a dotčené pracovníky. O nasazení takového systému se tedy nemáte dozvědět náhodou z chodby.
Algoritmické znevýhodnění
Systémy AI se učí z dat, a data v sobě nesou minulou praxi včetně jejích předsudků. Výstupy proto mohou znevýhodňovat určité skupiny lidí, aniž by to kdokoli v organizaci zamýšlel. Varovným příkladem je nizozemská aféra s příspěvky na péči o děti. Rizikový model vybíral žádosti ke kontrole mimo jiné podle státní příslušnosti a úřad pak léta označoval za podvodníky i řádné žadatele, s tvrdými dopady na tisíce rodin. Skandál nakonec vedl v roce 2021 k demisi nizozemské vlády.
Pravidlo pro vás je jednoduché. Když si ve výstupech všimnete podezřelého vzorce (systém opakovaně vyřazuje uchazeče určitého věku, původu nebo bydliště), výstup nepoužijete a všimnutí nahlásíte jako incident (modul 07). Nejde o přecitlivělost, jde o včasné zachycení chyby, za kterou by jinak odpovídala organizace.
Zlaté pravidlo modulu
Čtení emocí na pracovišti je zakázané, ne jen nevhodné. A jakmile AI rozhoduje o lidech, nezavádí se po vlastní ose: eskalujte na odpovědnou osobu dřív, než se nástroj poprvé použije.
Shrnutí
- Čl. 5 nařízení obsahuje uzavřený seznam zakázaných praktik, platí od 2. 2. 2025 (dva nové zákazy od 2. 12. 2026) a nesou nejvyšší pokuty (až 35 mil. eur nebo 7 % ročního obratu).
- Pro praxi: žádné čtení emocí na pracovišti, žádná manipulace, žádný sociální kredit, žádná biometrická kategorizace citlivých vlastností.
- Když AI rozhoduje o lidech (nábor, hodnocení zaměstnanců, úvěry), často jde o vysoce rizikovou kategorii (příloha III) s přísnými povinnostmi organizace.
- Lidský dohled musí být skutečný a způsobilý, ne formální odklikávání.
- O nasazení vysoce rizikového systému na pracovišti se zaměstnanci informují předem.
- Podezřelé vzorce ve výstupech se nepoužijí a hlásí se jako incident.