AI ve financích: Nová pravidla pro banky, pojišťovny a fintech firmy

Umělá inteligence (AI) se rychle stává nepostradatelným pomocníkem i ve finančním sektoru, kam přináší řadu inovací. Dokáže zrychlit procesy, zpřesnit rozhodování a usnadnit lidem přístup k finančním službám. Od automatizovaného posuzování úvěruschopnosti klientů až po predikci pojistného rizika. Ale pozor, čím větší dopad na lidské životy, tím přísnější pravidla. Evropská unie proto přijala nařízení AI Act, nový právní rámec pro využívání umělé inteligence, který se zásadně týká i finančních institucí.

Co přesně AI Act znamená pro banky, pojišťovny nebo fintech firmy? A na co si dát největší pozor?👇

Kde AI ve financích narazí na tvrdá pravidla 

Mnoho finančních produktů ovlivňuje přístup lidí k základním službám (úvěry, hypotéky, pojištění, energie). Systémy AI, které o nich rozhodují, označuje Příloha 3 AI Act jako vysoce rizikové. Vysoce rizikové proto, že mají velký vliv na životy lidí: rozhodují o tom, jestli dostanete hypotéku, nebo jak drahé bude vaše životní pojištění.

Vysoce rizikové systémy ve finance sektoru

• AI modely pro scoring: algoritmy, které hodnotí bonitu klienta a rozhodují, zda dostane úvěr, s jakým úrokem a za jakých podmínek. 

• AI pro stanovení cen a rizik v pojištění: nástroje určující výši pojistného nebo míru rizika na základě zdravotního stavu, věku nebo chování klienta. 

☝️ Nejde o hypotetické příklady. Tyto technologie se už dnes běžně používají v mnoha bankách a pojišťovnách.

Naopak  systémy AI pro odhalování finančních podvodů nejsou považovány za vysoce rizikové, protože jejich účelem je ochrana, ne rozhodování o přístupu ke službám. Chcete si být jistí, kam spadá vaše AI? Napište.

Povinnosti pro vysoce rizikové systémy 

Evropská legislativa klade velký důraz na ochranu klientů a spravedlnost procesů. Firmy, které využívají AI ve finančním sektoru, musí dodržet celou řadu povinností:

✅ Systém řízení rizik 
Firmy musí průběžně vyhodnocovat rizika spojená s AI a zavést opatření k jejich minimalizaci.

✅ Kvalita a správa dat
Data, se kterými AI pracuje, musí být přesná, úplná a férová, aby nedocházelo k diskriminaci nebo chybným rozhodnutím.

✅ Transparentnost vůči klientům
Zákazníci musí být jasně informováni, že jejich údaje hodnotí AI systém, jak funguje a jaká data používá.

✅ Lidský dohled
Žádná AI nemůže „jet na autopilota“. Rozhodnutí AI nesmí být konečné bez možnosti lidského zásahu, například přezkum zamítnuté žádosti o úvěr.

✅ Záznamy a logy
Firmy musí vést záznamy o fungování systému, aby bylo možné zpětně dohledat, jak a proč AI rozhodla.

✅ Kybernetická bezpečnost
Systémy AI musí být chráněné proti útokům, zneužití nebo manipulaci s daty.

💡 Do 2. srpna 2026 musí být vysoce rizikové AI systémy plně v souladu s novými požadavky. Připravte se s  námi včas.

Zakázané praktiky: Co AI nesmí 

AI Act není jen o pravidlech, ale obsahuje i jasné zákazy, které se týkají fin sektoru. Tyto praktiky by mohly ohrozit spotřebitele. 

🚩 Dark Patterns 

Např. rozhraní AI pro sjednávání půjček, která klienta manipulují k podepsání nevýhodné smlouvy (nepřehledná tlačítka, zamlčené poplatky). 

🚩 Zneužití zranitelnosti 

AI algoritmy cílené na zadlužené osoby, kterým nabízí další rizikové půjčky. V očích zákona to může být neférová praxe, protože zneužívají zranitelnosti osob a vystavují je ještě větším finančním potížím. 

🚩 Social Scoring 

Systémy, které hodnotí finanční likviditu a „skóre“ člověka např. na základě sociálního statusu nebo životního stylu, a podle toho rozhodují o poskytnutí služby. To je v EU zakázáno.

Nejste si jistí, jestli váš systém spadá pod zakázanou AI? Bookněte si schůzku s Pavlem, udělá s vámi rychlou analýzu.

Porušení se nevyplácí

Sankce nejsou symbolické. Za porušení zákazů může přijít pokuta až 35 milionů EUR nebo 7 % celosvětového ročního obratu, podle toho, která částka je vyšší. To ukazuje, jak vážně EU tato pravidla bere. 

Navíc článek 19 odst. 2 ukládá finančním institucím povinnost uchovávat všechny automaticky generované protokoly jejich AI systémů, aby bylo možné kdykoli doložit, jak AI rozhodovala a jak byla kontrolována. 

✅ Checklist: Jste připravení na AI Act? 

Když si chcete být jistí, jestli AI systém ve vaší firmě obstojí i pod drobnohledem evropské regulace, zamyslete se nad těmito body: 

• Víte, jestli (případně které) vaše AI systémy spadají mezi vysoce rizikové? 
• Neprovozujete zakázané AI praktiky? 
• Máte zavedený systém řízení rizik pro AI? 
• Jsou data, na kterých AI funguje, bez chyb a diskriminace? 
• Máte školení pro pracovníky, kteří AI nastavují nebo používají? 
• Informujete klienty, že rozhoduje AI, a jak? 
• Vede váš AI systém logy všech rozhodnutí a zásahů? 
• Můžete každé rozhodnutí přezkoumat a případně změnit? 

Zajímá vás, jak AI Act ovlivňuje další oblasti vašeho byznysu? Sledujte náš blog a seriál o AI, první díl AI v  HR už je už venku.

AI ve financích má velký potenciál. Ale pod dohledem

Umělá inteligence dokáže i ve finančním sektoru velké věci, od rychlejších úvěrů po chytřejší pojištění. Aby ale zůstala transparentní a férová, musí být využívána v souladu s právem. AI Act není nepřítel inovací, naopak: vytváří pravidla hry, která zajišťují důvěru a bezpečí pro všechny. Fintech firmy, banky i pojišťovny tak dostávají do rukou šanci udělat z AI svého spojence, a přitom zůstat v souladu se zákonem.

Potřebujete projít, jak AI ve firmě využíváte? Pomůžeme vám nastavit AI policy = správné procesy i dokumentaci.