Používání technologie rozpoznávání obličejů z pohledu práva

Facial recognition

Londýnská metropolitní policie oznámila, že pro zajištění bezpečnosti svých občanů začne ve veřejných prostorech využívat technologii rozpoznávání obličejů v reálném čase (facial recognition). Nejedná se přitom o žádné prohlášení do prázdna. Kamery by měly být do ulic Londýna instalovány již v průběhu příštího měsíce. V provozu budou 5-6 hodin denně, budou mít k dispozici údaje o osobách stíhaných za závažné a násilné trestné činy a v reálném čase tak budou kontrolovat identitu osob pohybujících se v jejich dosahu. Metropolitní policie je přesvědčena, že veřejnost využívání této technologie podporuje i navzdory kampaním zastánců ochrany občanských práv. Do karet policii hraje i nedávný rozsudek High Court of Justice, dle kterého policejní užívání technologie rozpoznávání obličejů ve Walesu není v rozporu s předpisy chránícími lidská práva.

Ve Spojených státech amerických však mají na věc odlišný názor. Po zvážení dopadů užívání technologie rozpoznávání obličejů na veřejných místech dospěli v San Franciscu, Massachusetts, Oaklandu a Kalifornii k závěru, že její rizika převažují potenciální výhody. Státní složky včetně policie tak mají zakázáno rozpoznávání obličejů využívat.

Co na to právo Evropské unie?

Navzdory mnoha studiím a uspořádaným konferencím Evropská unie stále nepřijala žádný závazný předpis týkající se umělé inteligence nebo používání technologie rozpoznávání obličejů z pohledu práva. Na provozování kamerových systémů a profilování však dopadá obecné nařízení o ochraně osobních údajů (GDPR). V souladu s jeho principy by subjekty osobních údajů měly být vždy informovány o tom, že probíhá zpracování jejich osobních údajů. Navíc, bez výslovného souhlasu mají subjekty osobních údajů právo na to, aby nebyly předmětem rozhodování zakládajícího se výlučně na automatickém zpracování, včetně profilování, ze kterého pro ně mohou vyplývat právní důsledky které je významně ovlivňují.

Z tohoto práva je však možné učinit výjimku, například pokud je takové automatické zpracování autorizováno členským státem (hraniční kontroly). I v těchto případech je však správce povinen učinit taková opatření, aby zajistil ochranu práv a svobod subjektu údajů a jeho oprávněných zájmů, a musí vypracovat posouzení vlivu na ochranu osobních údajů (DPIA). V končném důsledku to znamená, že pokud by z užívání AI mohly pro občany vyplývat právní nebo podobné důsledky, musí být o užívání umělé inteligence k rozpoznávání obličejů vždy informování a musí s tím i souhlasit.

Jakým směrem se může právní úprava dále ubírat?

Před pár dny zveřejnil zpravodajský server Euractiv dokument s názvem White Paper on Artificial Intelligence, který měl údajně uniknout z dílny Evropské komise. Na straně 15 tento dokument uvádí, že by Evropská unie měla zvážit zavedení časově omezeného zákazu užívání technologie rozpoznávání obličejů ve veřejných prostorách, například na 3-5 let. Během platnosti tohoto zákazu by měla být vypracována podrobná metodologie pro posuzování důsledků užívání této technologie a měla by být navrhnuta opatření pro zmírnění s ní spojených rizik.

Tato informace v minulých dnech oběhla všechny právnické a technologické kruhy. Nejedná se však o jedinou zajímavost týkající se facial recogntion, která ze zmiňovaného dokumentu vyplývá. Naopak, této technologii je v uniklém dokumentu věnována celá samostatná kapitola.

Podle White Paper on Artificial Intelligence by se AI měla věnovat samostatná sektorová právní úprava, která by regulovala využití umělé inteligence veřejnou mocí. Důvodem pro samostatnou úpravu je dle dokumentu snížení administrativního a regulatorního zatížení, jelikož by bylo jednodušší určit, zda činnost vývojářů a uživatelů systémů umělé inteligence spadá či nespadá pod stanovený regulatorní rámec. Ačkoliv by se právní úprava AI vztahovala pouze na veřejný sektor, mohla by mít důležitý signální efekt i na soukromou sféru.

Zvláštní povinnosti vztahující se k užívání umělé inteligence ve veřejné sféře by se mohly inspirovat kanadským nařízením o automatickém rozhodování. Tento přístup by znamenal, že veřejné instituce budou povinny zajistit, že nasazené systémy automatické povedou k efektivnějším, přesnějším a konzistentnějším rozhodnutím s minimálními riziky pochybení. V praxi by to nejspíše znamenalo, že používané algoritmy by byly testovány z hlediska kvality jejich výstupů, byly by vypracovávány analýzy důsledků jejich využívání a zkoumaly by se i možnosti nápravy případných pochybení.

Zvláštní pravidla pro facial recognition systems

Podle White Paperu by požadavky stanovené na užívání AI ve veřejné sféře mohly být doplněny zvláštními pravidly systémů rozpoznávání obličejů, nyní již bez ohledu na to, jestli jsou využívány soukromými nebo veřejnými subjekty. Tato pravidla by detailně regulovala využívání facial recognition ve veřejných prostorech a doplňovala by tak již existující úpravu ochrany osobních údajů. Zde se tak dostáváme k diskutovanému návrhu zakázat po omezenou dobu používání technologie rozpoznávání obličejů ve veřejných prostorech. Během této doby by mělo dojít k vypracování metodologie pro posuzování důsledků užívání této technologie a možných opatření na zvládání spojených rizik. Ochraná lhůta by rovněž měla zabránit zneužívání technologie a zásahům do práv jednotlivců. Případné výjimky ze zákazu z výzkumných a bezpečnostních důvodů by bylo možné povolit soudní cestou. I přesto by se však jednalo o dalekosáhlý zásah do přirozeného vývoje technologií.

Zdroj náhledového obrázku: ip.com, https://ip.com/wp-content/uploads/2019/07/facial-recognition-innovation-1170×614.jpg

Začněme spolupracovat ještě dnes

Kontaktujte nás