Váš AI nástroj na nábor může být podle AI Act vysokorizikový. Tady je, co to znamená.

AI v HR není automaticky vysoce riziková

ATS, který ukládá životopisy, plánuje pohovory nebo připravuje neutrální inzerát, není automaticky vysoce rizikovým systémem. Rozhoduje zamýšlený účel a konkrétní použití. Příloha III zahrnuje například cílenou reklamu pracovních míst, analýzu či filtrování žádostí, hodnocení kandidátů a rozhodování o pracovních podmínkách, povýšení, ukončení, přidělování úkolů nebo monitorování pracovníků. Pravidla pro tyto systémy platí od 2. prosince 2027. AI Omnibus vstoupil v účinnost 27. července 2026. Datum 2. srpna 2028 patří výrobkům a bezpečnostním komponentům z přílohy I, ne běžnému náborovému softwaru.

AI Act, European Commission.

Článek 6 odst. 3 umožňuje výjimku jen tehdy, když systém nepředstavuje významné riziko a podstatně neovlivňuje rozhodování. Jde o úzký procesní úkol, zlepšení hotové lidské činnosti, rozpoznání vzorců bez nahrazení či ovlivnění přezkoumaného lidského posouzení, nebo přípravný úkol. Systém z přílohy III, který profiluje fyzické osoby, zůstává vysokorizikový bez ohledu na tyto výjimky. Zapište účel, vstupy, výstupy, možnost zásahu člověka a důvod výjimky.

Otázky pro dodavatele ATS

Co model skutečně dělá? Řadí, filtruje nebo doporučuje kandidáty? Jaká data a zástupné znaky používá? Jde o profilování? Může náborář vidět důvody, opravit data a výsledek zvrátit před významným rozhodnutím? Jaké existují testy zkreslení, řízení změn a incidentů? Dodavatel může být provider, zaměstnavatel je obvykle deployer. Povinnosti nejsou stejné.

Provider vysokorizikového systému odpovídá za systémové kontroly, dokumentaci, řízení rizik a logy pod svou kontrolou. Článek 19 vyžaduje jejich uchování přiměřeně účelu nejméně šest měsíců, pokud jiné právo nestanoví jinak. Deployer musí postupovat podle návodu, sledovat provoz, určit účinný lidský dohled a tam, kde to zákon vyžaduje, informovat dotčené osoby. Lidský dohled není formální podpis. GDPR článek 22 má vlastní test pro výlučně automatizovaná rozhodnutí s právním nebo obdobně významným účinkem. Nezakazuje každé AI-podpořené HR rozhodnutí.

Článek 27 neukládá FRIA každému soukromému zaměstnavateli. Týká se veřejných orgánů, soukromých poskytovatelů veřejných služeb a vymezených úvěrových a pojistných použití. DPIA může vyžadovat GDPR. Pokud AI ovlivňuje odměňování, sledujte aktuální vnitrostátní pravidla a článek o pay transparency. Začněte technickým auditem. Zmapujte nástroje a účely, vyžádejte důkazy dodavatele, otestujte workflow a zdokumentujte lidské rozhodování. Napište nám, pokud potřebujete posoudit ATS nebo HR systém.