Umělá inteligence – návrh Nařízení EU o AI (oficiálně) představen

umělá inteligence AI

Umělá inteligence se dočká regulace na úrovni EU. Očekávaný návrh Nařízení o evropském přístupu k umělé inteligenci (AI) trochu úsměvně následoval osud návrhu Nařízení o správě dat. Oba totiž unikly na veřejnost před jejich oficiálním zveřejněním Evropskou komisí. Jaké jsou tedy nejzajímavější body nedávno zveřejněného návrhu „Nařízení o AI“?

Kontext

Byť zveřejněn nejprve neoficiálně, není návrh pro znalé zásadním překvapení. Navazuje na aktivitu, kterou od roku 2018 vyvíjí tzv. High-Level Expert Group on AI (HLEG) či v roce 2020 online probíhající veřejnou konzultaci spojenou se zveřejněním tzv. Bílé knihy o umělé inteligenci.

Návrh poměrně otevřeně vychází z Nařízení o ochraně osobních údajů (GDPR), jemuž se koneckonců blíží jak zaměřením, tak s navrženými 85 články částečně i rozsahem.

Vysoce rizikové AI systémy

Jako žádoucí přístup je zvolena regulace pouze tzv. vysoce rizikových AI systémů. Spadají sem kategorie specifikovaných v příloze návrhu:

  • biometrická identifikace
  • řízení a provozování kritické infrastruktury
  • výchova a vzdělávání
  • otázky zaměstnanosti (přijímání pracovníků a pracovněprávní vztahy)
  • tzv. základní soukromé a veřejné služby (včetně výslovně zmíněného posuzování úvěruschopnosti, ale i záchranářských či hasičských zásahů)
  • prosazování práva
  • záležitosti migrační, azylové a související se státními hranicemi
  • soudnictví a demokratické uspořádání
Umělá inteligence AI

Konkrétní požadavky na AI systémy

Navrhuje se stanovit požadavky na:

  • data, jejich vysokou kvalitu, nezaujatost a reprezentativnost
  • dokumentovatelnost a sledovatelnost (zde AI systému, nikoliv lidí)
  • poskytování informací (ohledně fungování systémů ale i například informace, že člověk jedná s AI systémem)
  • transparentnost
  • dohled člověka, který má mít vždy poslední slovo
  • přesnost, robustnost a kyberbezpečnost
  • vnitřní systém řízení kvality

Zakázané AI praktiky

Má být zakázáno uvádět na trh či využívat takové AI systémy, které:

  • ohrožujícím způsobem narušují lidské vědomí či chování
  • ohrožují zvlášť zranitelné skupiny lidí a jejich příslušníky
  • vedou ke společenskému bodování či hodnocení lidí

S výjimkami se navrhuje též zakázat biometrické sledovací AI systémy působící v reálném čase.

Ač se dá výše uvedené často dovodit již ze současných evropských předpisů, jedná se právě o reálná využití AI systémů v některých zemích světa, vůči kterým pravděpodobně Komise cítila potřebu se výslovně vymezit.

Samoregulace

Poskytovatelům AI systémů s nižší mírou rizika se nabízí možnost řídit se dobrovolnými etickými kodexy. Všechny největší společnosti využívající AI již koneckonců své vlastní etické kodexy mají.

Jako vhodný nástroj pro výzkum a vývoj AI se dlouhodobě jeví tzv. sandboxy, tedy státem kontrolovaná prostředí, ve kterých mohou poskytovatelé své systémy bezpečně vyvíjet a testovat.

Příslušné úřady

Navrhuje se zřídit Evropský sbor pro umělou inteligenci jako hlavní dozorový orgán.

Státy pak mají určit příslušné národní úřady pro plnění povinností (například notifikačních a certifikačních) ze stran poskytovatelů.

Zavedena by měla být také celoevropská databáze pro povinnou registraci vysoce rizikových AI systémů.

Co návrh nařízení překvapivě neřeší? Povinné pojištění, které se přinejmenším pro vysoce rizikové AI systémy očekává.

Výše uvedené je pouhým „teaserem“ více než stostránkového dokumentu, který ještě navíc čeká legislativní proces. Pro zájemce o právní regulaci AI můžeme doporučit monografii Umělá inteligence a právo a samozřejmě náš blog, kde se brzy dozvíte více.

Začněme spolupracovat ještě dnes

Kontaktujte nás