Váš AI nástroj na nábor může být podle AI Act vysokorizikový. Tady je, co to znamená.

Běžný pátek na HR oddělení středně velké firmy v Bratislavě. Na pozici junior developera přišlo 200 životopisů. HR manažerka otevře ATS, klikne na „AI ranking" a systém za 40 sekund vytáhne top 15 kandidátů. Pohodlné. Rychlé. A od 2. srpna 2026 i regulované.

Nařízení EU o umělé inteligenci (AI Act, Regulation 2024/1689) klasifikuje AI systémy podle míry rizika. Všechno, co se dotýká zaměstnávání, spadá do kategorie „vysoké riziko". Tatáž funkce, kterou HR tým denně používá, teď podléhá požadavkům na dokumentaci, transparentnost a lidský dohled. A protože jde o nařízení (ne směrnici), platí přímo, bez transpozice do slovenského práva.

Co přesně spadá pod vysokorizikové AI v HR

AI Act v Příloze III výslovně jmenuje tyto oblasti zaměstnanosti:

• Cílení pracovních inzerátů pomocí AI (kdo inzerát uvidí a kdo ne)
• Třídění a filtrování žádostí o zaměstnání
• Hodnocení kandidátů při pohovorech nebo v assessment centrech
• Rozhodování o povýšení a ukončení pracovního poměru
• Monitorování výkonu zaměstnanců a přidělování úkolů

Pokud váš ATS, HR platforma nebo interní nástroj dělá cokoli z tohoto seznamu s prvkem automatizace, máte vysokorizikový AI systém. Nezáleží na tom, jestli jde o komerční SaaS nebo interní Python skript, který někdo narychlo naprogramoval na koleně během hackathonu.

Na Slovensku to má specifický rozměr. Mnoho firem používá lokální ATS systémy (Nalgoo, Recruitis, Teamio), které postupně přidávají AI funkce. Je potřeba si položit jednu otázku. Jsou tito dodavatelé připravení dodat technickou dokumentaci podle AI Act? Většinou ještě ne.

Co musí vysokorizikový AI systém splňovat

Požadavky jsou konkrétní a měřitelné. Nejsou to principy. Jsou to pravidla, která auditor umí zkontrolovat:

Systém řízení rizik. Před nasazením musíte identifikovat rizika pro základní práva zaměstnanců. Pravidelně je přehodnocovat. Dokumentovat opatření, která jste přijali. Tohle není jednorázová záležitost. Je to kontinuální proces po celou dobu provozu systému.

Kvalita trénovacích dat. Pokud AI model trénujete nebo dolaďujete, musíte prokázat, že data jsou relevantní, dostatečně reprezentativní a bez systematických předsudků. V praxi to znamená následující. Pokud jste trénovali na životopisech úspěšných kandidátů z posledních 5 let a 90 % byli muži, máte problém. Na slovenském trhu je tohle obzvlášť citlivé v IT sektoru, kde je genderový nepoměr mezi kandidáty výrazný.

Technická dokumentace. Popis modelu, jeho účel, trénovací data, metriky přesnosti, známá omezení. Nestačí README na GitHubu. Dokumentace musí být v jazyce, kterému rozumí orgán dohledu, což v případě Slovenska znamená slovenštinu nebo angličtinu (podle toho, co úřad přijme).

Zaznamenávání událostí (logging). Systém musí automaticky logovat, kdy běžel, jaké vstupy dostal a jaké výstupy vyprodukoval. Logy musí být uchovávané minimálně 6 měsíců. Pro firmy, které dosud logovaly maximálně HTTP requesty, je to změna myšlení.

Transparentnost vůči zaměstnancům. Zaměstnanci a kandidáti musí vědět, že AI se podílí na rozhodování. Nestačí věta v interní směrnici, kterou nikdo nečetl. Musí to být aktivní informace. V kontextu slovenského zákoníku práce (§13 odst. 4 o zákazu diskriminace) je tohle dvojnásob důležité, protože zaměstnanec musí vědět, vůči čemu se případně bránit.

Lidský dohled. Konečné rozhodnutí o přijetí, propuštění nebo povýšení nemůže dělat AI samo. Člověk musí mít reálnou možnost rozhodnutí změnit, ne jen formálně „schválit". Tohle je bod, kde se hodně firem zasekne. Technicky mají „human in the loop", ale v praxi nikdo výstup AI nezpochybňuje.

Kybernetická bezpečnost a odolnost. AI systém musí být odolný vůči manipulaci. V HR kontextu to zní takhle. Co když kandidát úmyslně formátuje CV tak, aby oklamal parser? Co když někdo zjistí, která klíčová slova systém upřednostňuje, a začne je vkládat bílým textem?

Proč to většina HR nástrojů zatím nesplňuje

Pracuji s firmami, které nasazují AI do interních procesů. Většina HR AI nástrojů na trhu tohle ještě nesplňuje. Ne proto, že by byly špatné. Ale proto, že se vyvíjely v době, kdy regulace neexistovala.

Typické mezery, které vidím:

• Žádné logy o tom, proč AI kandidáta zařadilo nebo vyřadilo
• Chybějící dokumentace o trénovacích datech (dodavatel ji často nemá nebo neposkytne)
• Kandidáti nejsou informováni o tom, že AI rozhoduje
• „Human in the loop" existuje jen na papíře. V praxi HR manažer klikne „schválit vše"
• Chybí posouzení dopadu na základní práva (Fundamental Rights Impact Assessment), které AI Act vyžaduje od nasazovatelů (deployers) vysokorizikových systémů

To poslední je důležité. AI Act rozlišuje mezi poskytovatelem (provider, ten kdo systém vyvinul) a nasazovatelem (deployer, ten kdo ho používá). I když jste si AI nástroj jen koupili, máte povinnosti. Nemůžete se odvolat na to, že „dodavatel je za to zodpovědný".

Co to znamená pro call centra a interní nástroje

AI Act se netýká jen náboru. Pokud používáte AI na monitorování výkonu v call centru (hodnocení hovorů, analýza sentimentu, automatické skórování agentů), je to také vysokorizikový systém. Stejně tak pokud AI rozhoduje o tom, který zaměstnanec dostane směnu, jaký objem práce, nebo kdo půjde na školení.

Na Slovensku je tohle relevantní hlavně v sektorech s velkým počtem zaměstnanců, tedy ve výrobě, logistice a sdílených servisních centrech. Přesně tam, kde firmy AI nasazují nejčastěji.

Souvislost s pay transparency

Od června 2027 platí i Směrnice o transparentnosti odměňování (2023/970). Pokud AI rozhoduje o zařazení zaměstnance do platové třídy nebo o výši bonusu, spadá to pod obě regulace současně. HR systémy budou muset prokázat, že AI nezvýhodňuje ani neznevýhodňuje na základě pohlaví. Více o tom v našem článku o pay transparency.

Firmy, které řeší HR compliance až když přijde pokuta, budou muset za rok řešit dvě velké změny naráz. Lepší strategie je začít teď a řešit AI Act i pay transparency v jednom projektu.

Praktický checklist na nejbližší 4 měsíce

1. Zmapujte AI v HR procesech. Kde se používá automatizované rozhodování? Jaké nástroje? Komerční nebo vlastní? Zahrňte i nástroje, o kterých si HR tým myslí, že „to není AI" (např. automatické filtrování CV podle klíčových slov).
2. Vyžádejte si dokumentaci od dodavatelů. Pokud používáte komerční ATS s AI funkcemi, ptejte se na technickou dokumentaci podle AI Act. Pokud ji nemají, je to varovný signál. Zvažte, jestli nechcete mít záložní plán.
3. Zaveďte logging. Každé AI rozhodnutí v HR musí být zaznamenané a zpětně dohledatelné. To znamená nejen výstup, ale i vstupy a verzi modelu.
4. Informujte zaměstnance a kandidáty. Připravte srozumitelné oznámení o tom, kde a jak AI vstupuje do HR procesů. Ve slovenštině, ne v korporátní angličtině.
5. Zajistěte reálný lidský dohled. Ne formální. Člověk musí rozumět výstupu AI a mít reálnou pravomoc ho změnit. Zaškolte HR tým na to, co výstup AI znamená a kdy ho zpochybnit.
6. Proveďte posouzení dopadu na základní práva. Tohle je povinnost nasazovatele, ne dodavatele.

Na závěr

AI Act není o tom, že AI v HR nemůžete používat. Můžete. Dokonce byste měli, pokud vám ušetří čas a zlepší kvalitu výběru. Ale musíte umět prokázat, jak funguje, proč rozhodl tak, jak rozhodl, a že člověk měl poslední slovo.

Pokud nevíte, jestli vaše HR nástroje splňují požadavky, ozvěte se nám. Děláme audit AI systémů pro firmy, které chtějí být připravené dřív, než to bude povinnost.

Na financování úprav a auditu můžete využít i granty na digitalizaci, které pokrývají i AI compliance projekty.