Umělá inteligence (AI) se rychle stává nepostradatelným pomocníkem i ve finančním sektoru, kam přináší řadu inovací. Dokáže zrychlit procesy, zpřesnit rozhodování a usnadnit lidem přístup k finančním službám. Od automatizovaného posuzování úvěruschopnosti klientů až po predikci pojistného rizika. Ale pozor, čím větší dopad na lidské životy, tím přísnější pravidla. Evropská unie proto přijala nařízení AI Act, nový právní rámec pro využívání umělé inteligence, který se zásadně týká i finančních institucí.
Co přesně AI Act znamená pro banky, pojišťovny nebo fintech firmy? A na co si dát největší pozor?👇
Mnoho finančních produktů ovlivňuje přístup lidí k základním službám (úvěry, hypotéky, pojištění, energie). Systémy AI, které o nich rozhodují, označuje Příloha 3 AI Act jako vysoce rizikové. Vysoce rizikové proto, že mají velký vliv na životy lidí: rozhodují o tom, jestli dostanete hypotéku, nebo jak drahé bude vaše životní pojištění.
☝️ Nejde o hypotetické příklady. Tyto technologie se už dnes běžně používají v mnoha bankách a pojišťovnách.
Naopak systémy AI pro odhalování finančních podvodů nejsou považovány za vysoce rizikové, protože jejich účelem je ochrana, ne rozhodování o přístupu ke službám. Chcete si být jistí, kam spadá vaše AI? Napište.
Evropská legislativa klade velký důraz na ochranu klientů a spravedlnost procesů. Firmy, které využívají AI ve finančním sektoru, musí dodržet celou řadu povinností:
✅ Systém řízení rizik
Firmy musí průběžně vyhodnocovat rizika spojená s AI a zavést opatření k jejich minimalizaci.
✅ Kvalita a správa dat
Data, se kterými AI pracuje, musí být přesná, úplná a férová, aby nedocházelo k diskriminaci nebo chybným rozhodnutím.
✅ Transparentnost vůči klientům
Zákazníci musí být jasně informováni, že jejich údaje hodnotí AI systém, jak funguje a jaká data používá.
✅ Lidský dohled
Žádná AI nemůže „jet na autopilota“. Rozhodnutí AI nesmí být konečné bez možnosti lidského zásahu, například přezkum zamítnuté žádosti o úvěr.
✅ Záznamy a logy
Firmy musí vést záznamy o fungování systému, aby bylo možné zpětně dohledat, jak a proč AI rozhodla.
✅ Kybernetická bezpečnost
Systémy AI musí být chráněné proti útokům, zneužití nebo manipulaci s daty.
💡 Do 2. srpna 2026 musí být vysoce rizikové AI systémy plně v souladu s novými požadavky. Připravte se s námi včas.
AI Act není jen o pravidlech, ale obsahuje i jasné zákazy, které se týkají fin sektoru. Tyto praktiky by mohly ohrozit spotřebitele.
🚩 Dark Patterns
Např. rozhraní AI pro sjednávání půjček, která klienta manipulují k podepsání nevýhodné smlouvy (nepřehledná tlačítka, zamlčené poplatky).
🚩 Zneužití zranitelnosti
AI algoritmy cílené na zadlužené osoby, kterým nabízí další rizikové půjčky. V očích zákona to může být neférová praxe, protože zneužívají zranitelnosti osob a vystavují je ještě větším finančním potížím.
🚩 Social Scoring
Systémy, které hodnotí finanční likviditu a „skóre“ člověka např. na základě sociálního statusu nebo životního stylu, a podle toho rozhodují o poskytnutí služby. To je v EU zakázáno.
Nejste si jistí, jestli váš systém spadá pod zakázanou AI? Bookněte si schůzku s Pavlem, udělá s vámi rychlou analýzu.
Sankce nejsou symbolické. Za porušení zákazů může přijít pokuta až 35 milionů EUR nebo 7 % celosvětového ročního obratu, podle toho, která částka je vyšší. To ukazuje, jak vážně EU tato pravidla bere.
Navíc článek 19 odst. 2 ukládá finančním institucím povinnost uchovávat všechny automaticky generované protokoly jejich AI systémů, aby bylo možné kdykoli doložit, jak AI rozhodovala a jak byla kontrolována.
Když si chcete být jistí, jestli AI systém ve vaší firmě obstojí i pod drobnohledem evropské regulace, zamyslete se nad těmito body:
Zajímá vás, jak AI Act ovlivňuje další oblasti vašeho byznysu? Sledujte náš blog a seriál o AI, první díl AI v HR už je už venku.
Umělá inteligence dokáže i ve finančním sektoru velké věci, od rychlejších úvěrů po chytřejší pojištění. Aby ale zůstala transparentní a férová, musí být využívána v souladu s právem. AI Act není nepřítel inovací, naopak: vytváří pravidla hry, která zajišťují důvěru a bezpečí pro všechny. Fintech firmy, banky i pojišťovny tak dostávají do rukou šanci udělat z AI svého spojence, a přitom zůstat v souladu se zákonem.
Potřebujete projít, jak AI ve firmě využíváte? Pomůžeme vám nastavit AI policy = správné procesy i dokumentaci.