AI v HR procesech: Co musí firmy vědět podle nového AI Act?

Umělá inteligence (AI) už dávno není sci-fi. Aby se však realita nepřeklopila do postapokalyptického stavu, je potřeba AI ukotvit a nastavit jasná pravidla. Aby byla AI bezpečná, přijala Evropská unie právní předpis AI Act (nařízení EU o umělé inteligenci), který reguluje použití umělé inteligence v různých oblastech života. To přináší firmám nové povinnosti.

AI v HR na denním pořádku

Na HR odděleních už firmy AI běžně využívají při náboru, hodnocení výkonu, řízení zaměstnanců, nebo dokonce k biometrické identifikaci osob, o které jsme psali nedávno. To všechno přináší spoustu příležitostí, ale i rizik.

⏰ Vybrané povinnosti jsou účinné již od 2. února 2025 a další klepou na dveře. Jste připraveni? Napište, mrkneme na to s  vámi.

AI jako vysoce rizikový systém: Co to pro vás znamená?

AI, která v HR pomáhá s výběrem kandidátů, sledováním výkonu nebo třeba přidělováním úkolů podle osobnostních vlastností, patří do skupiny tzv. vysoce rizikových systémů. Proč? Protože pracuje s osobními daty a rozhoduje o osudech lidí: kdo dostane práci, kdo postoupí na kariérním žebříčku, nebo kdo skončí.

Mezi vysoce rizikové systémy v  HR patří 👇

• Systémy AI pro nábor a výběr zaměstnanců (třídění životopisů, hodnocení uchazečů nebo zveřejňování cílených nabídek práce).

• Systémy AI pro rozhodování o podmínkách pracovněprávních vztahů, ukončení smluvních pracovněprávních vztahů, přidělování úkolů a sledování a hodnocení výkonu.

Co musí firmy zajistit

• Lidský dohled. AI rozhodnutí nesmí být konečná bez možnosti kontroly člověkem.

• Transparentnost. Zaměstnanci i kandidáti musí dostat jasné a srozumitelné informace o tom, jak AI funguje a co s jejich daty dělá.

• Vedení záznamů. Musí se evidovat, jak AI rozhodovala, aby bylo možné zpětně ověřit správnost a spravedlnost rozhodnutí.

• Odborná školení HR týmů. Ti, kdo AI používají, musí vědět, jak s ní zacházet.

• Hlídání kvality a bezpečnosti dat. Chyby v AI mohou mít vážné důsledky, proto je nutná ochrana dat.

Nedodržení pravidel? Vysoké pokuty nebo omezení přístupu na EU trh. Pozor! I firmy mimo EU musí dodržovat pravidla, pokud jejich AI ovlivňuje obyvatele EU. Chcete mít jasno? Bookněte si call s  Pavlem.

🚩 Red flags AI v  HR

AI Act také jasně říká, co se s AI v HR rozhodně nesmí: 

• Social scoring: hodnotit lidi a přidělovat jim skóre na základě jejich chování nebo osobnostních rysů, pokud to vede k nespravedlivému či nepřiměřenému znevýhodnění.

• Biometrická kategorizace podle citlivých údajů: například na základě rasy, politických názorů, náboženství nebo sexuální orientace (např. AI, která by takto filtrovala životopisy, je zakázaná). 

• Rozpoznávání emocí při pracovních pohovorech: není dovoleno používat AI, která čte emoce kandidátů s výjimkou jasných zdravotních nebo bezpečnostních důvodů.

• Nástroje pro měření stresu, únavy či úzkosti: pozor i na well-being systémy, pokud nejde o výjimku (například hlídání ostražitosti řidiče v dopravě), tak i tyto systémy mohou být zakázané.

Když AI umí skutečně pomáhat

AI může být pro HRisty skvělým pomocníkem, pokud se používá zodpovědně. Příkladem jsou třeba nástroje, které pomáhají zaměstnancům s autismem lépe číst emoce kolegů, nebo systémy odhalující únavu u pilotů a řidičů.

Jak se na AI Act ve firmách připravit?

1. Zjistit, jestli je AI systém vysoce rizikový. Většina HR AI to ale bude.

2. Zajistit školení a support HR týmům. Aby přesně věděly, jak systém funguje a jak ho správně používat.

3. Nastavit lidský dohled. AI rozhodnutí musí být vždy kontrolováno člověkem.

4. Transparentně informovat zaměstnance i kandidáty. Co AI dělá a jak s daty nakládá.

5. Pečlivě evidovat všechny procesy. Vedení záznamů je klíčové pro případné audity nebo řešení sporů.

6. Vyhnout se zakázaným praktikám. Social scoring, biometrické třídění nebo rozpoznávání emocí bez opory v zákoně.

💡 Do 2. srpna 2026 musí být vysoce rizikové AI systémy plně v souladu s novými požadavky. Připravte se s  námi včas.

AI Act = příležitost i odpovědnost

AI Act přináší globálně unikátní standard. Pro firmy to znamená změny ve vývoji i provozních procesech. Jednotlivcům zase přináší bezpečnější a transparentnější digitální prostředí, které chrání jejich práva.

Co AI Act znamená pro firmy?

Firma má odpovědnost za splnění podmínek a za dostatečnou gramotnost všech zaměstnanců pracujících s AI systémy.

Zaměstnavatelé musí vědět, jakou AI využívají a jak s ní pracují. A musí to umět vysvětlit nejen zaměstnancům, ale i kontrolním orgánům. Sankce za porušení jsou vysoké. Za nedodržení hrozí pokuta až do výše 35 miliónů EUR či 7 % celkového ročního obratu.

Nepoužíváte stále systémy spadající pod zakázané AI? Pozor na to, ať na vás nepadne pokuta. Můžeme se na to s  vámi podívat, ozvěte se.

Co AI Act znamená pro HRisty?

Nařízení může přinést více férovosti a důvěry do HR procesů. HR týmy se budou muset naučit pracovat s novými pravidly, zavést systémy řízení rizik, kontrolovat kvalitu dat a zajistit transparentní komunikaci.

Co přináší AI Act jednotlivcům?

Více ochrany, spravedlnosti a transparentnosti. Pokud AI způsobí újmu, lidé budou mít možnost se bránit.

🤖 AI je skvělý HR pomocník, který musí být na uzdě 

Umělá inteligence může HR týmům usnadnit práci, ale jen pokud se používá férově a s rozmyslem. AI Act nastavuje pravidla, která chrání zaměstnance i firmy.

👉 Chcete vědět, jak AI správně zavést do HR, nebo jestli AI ve vaší firmě odpovídá evropské legislativě? Ozvěte se, rádi vám pomůžeme s přípravou a nastavením procesů, které budou bezpečné, férové, a hlavně v souladu s právem.