Přejít na obsah

Vyhledávání



Hlavní menu

Informační společnost v dubnu 2021

Euroskop, 10.05.2021

Komise navrhuje nová pravidla a opatření pro umělou inteligenci

  • Komise pravidla pro umělou intelgenci

 

Komise navrhuje nová pravidla a opatření pro umělou inteligenci

  • Přijetím těchto pravidel chce EU udávat směr vývoje nových celosvětových norem, které zajistí umělé inteligenci důvěryhodnost. 

  • UI nabízí potenciál v tak odlišných oblastech, jako je zdravotnictví, doprava, energetika, zemědělství, cestovní ruch nebo kybernetická bezpečnost.

  • Cílem návrhů je posílit postavení EU jako globálního centra umělé inteligence.

  • Zavádění systémů umělé inteligence má velký potenciál zajistit přínosy pro společnost, hospodářský růst a zvyšování inovací a globální konkurenceschopnosti EU. 

Proposal for a Regulation of the European Parliament and the Council on machinery products (COM(2021)202)

Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and The Committee of the Regions Fostering a European approach to Artificial Intelligence (COM(2021)205) 

Proposal for a Regulation of the European Parliament and of the Council

Laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union Legislative acts (COM(2021)206)

  • Komise 21. 4. 2021 navrhla nová pravidla a opatření, díky nimž se má EU stát globálním centrem pro důvěryhodnou umělou inteligenci (UI). 

Pozadí

Komise již mnoho let usnadňuje a posiluje v EU spolupráci v oblasti UI s cílem zvýšit konkurenceschopnost a zajistit důvěru v UI, jež bude vycházet z hodnot EU. 

Po zveřejnění evropské strategie pro umělou inteligenci v roce 2018 a po rozsáhlých konzultacích se zúčastněnými stranami vypracovala odborná skupina na vysoké úrovni pro umělou inteligenci v roce 2019 pokyny pro zajištění důvěryhodnosti UI a v roce 2020 hodnotící seznam pro důvěryhodnou UI. Souběžně s tím byl v prosinci 2018 jako společný závazek s členskými státy zveřejněn první koordinovaný plán v oblasti UI (více v příspěvku „Komise představila celoevropský přístup k umělé inteligenci”, Informační společnost v dubnu 2018).

Bílá kniha Komise o UI, která byla zveřejněna v roce 2020, představila jasnou vizi UI v Evropě: ekosystém nejvyšší úrovně založený na důvěře, který je základem návrhu. Veřejné konzultace k bílé knize o UI se účastnila široká škála subjektů z celého světa. K bílé knize byla připojena „Zpráva o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost“, která dochází k závěru, že stávající právní předpisy v oblasti bezpečnosti výrobků obsahují řadu nedostatků, které je třeba řešit zejména ve směrnici o strojních zařízeních více v příspěvku „Rada přijala koordinovaný přístup pro rozvoj evropské umělé inteligence“, Informační společnost v únoru 2019, v příspěvku „Komise zveřejnila seznam etických principů pro umělou inteligenci“, Informační společnost v dubnu 2019, v příspěvku „Rada přijala priority pro digitální politiku po roce 2020“, Informační společnost v červnu 2019 a v příspěvku „Komise představuje strategie zaměřenou na data a umělou inteligenci”, Informační společnost v únoru 2020).

Klíčové a sporné body 

První právní rámec pro UI ve spojení s novým plánem koordinovaným s členskými státy má zaručit občanům i podnikům bezpečnost a základní práva a zároveň posílit zavádění UI, investice a inovace v celé EU. Nová pravidla pro stroje, která upravují bezpečnostní předpisy, tento přístup rovněž zachovávají. Jejich cílem je zvýšit důvěru uživatelů v novou, různorodou generaci výrobků.

Nová pravidla se budou uplatňovat přímo a stejně ve všech členských státech na základě definice UI. Vycházejí z přístupu založeného na rizicích:

  1. Nepřijatelné riziko: Systémy UI považované za jasnou hrozbu pro bezpečnost, život a práva lidí budou zakázány. Patří sem systémy nebo aplikace UI, které manipulují s lidským chováním s cílem obejít svobodnou vůli uživatelů (např. hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování), a systémy, které umožňují vládám provádět tzv. „sociální hodnocení“.

  2. Vysoké riziko: Mezi vysoce rizikové systémy UI patří technologie umělé inteligence používané v:

  • kritické infrastruktuře (např. v dopravě), které by mohly ohrozit život a zdraví občanů,
  • vzdělávání nebo odborné přípravě, které mohou určovat přístup občanů ke vzdělávání a jejich profesní směřování (např. hodnocení zkoušek),
  • bezpečnostních součástech výrobků (např. aplikace UI v robotické chirurgii),
  • zaměstnávání, řízení pracovníků a přístupu k samostatně výdělečné činnosti (např. software pro třídění životopisů v přijímacích řízeních),
  • základních soukromých a veřejných službách (např. v úvěrovém hodnocení, které občanům znemožní získat půjčku),
  • prosazování práva, které může zasahovat do základních lidských práv (např. ověřování spolehlivosti důkazů),
  • řízení migrace, azylu a ochrany hranic (např. ověřování pravosti cestovních dokladů),
  • výkonu spravedlnosti a demokratických procesech (např. uplatňování práva v konkrétních případech).

Vysoce rizikové systémy UI mají před uvedením na trh podléhat přísným požadavkům na:

  • vhodné systémy hodnocení a zmírňování rizik,

  • vysokou kvalitu datových souborů, které se do systému vkládají, aby se minimalizovala rizika a diskriminační výstupy,

  • zaznamenávání činnosti k zajištění sledovatelnosti výsledků,

  • podrobnou dokumentaci obsahující veškeré informace o systému a jeho účelu, které úřady potřebují k posouzení jeho souladu s požadavky,

  • jasné a přiměřené informace pro uživatele,

  • vhodná opatření zajišťující lidský dohled k minimalizaci rizika,

  • vysokou úroveň spolehlivosti, bezpečnosti a přesnosti.

Za vysoce rizikové systémy, na které jsou kladeny přísné nároky, se považují zejména všechny systémy biometrické identifikace na dálku. Jejich přímé používání ve veřejně přístupných prostorách pro účely prosazování práva je zásadně zakázáno. Omezené výjimky jsou přísně definovány a regulovány (např. pokud je to nezbytně nutné k pátrání po pohřešovaném dítěti, k zabránění konkrétnímu a bezprostřednímu teroristickému ohrožení nebo k odhalení, nalezení, identifikaci nebo stíhání pachatele nebo podezřelého ze závažného trestného činu). Takové použití podléhá povolení soudního nebo jiného nezávislého orgánu a je omezeno přiměřenými lhůtami, zeměpisným rozsahem a databázemi, v nichž lze vyhledávat.

  1. Omezené riziko, tj. systémy UI podléhající specifickým požadavkům na transparentnost: Při používání systémů UI, jako jsou chatboty, by si uživatelé měli být vědomi toho, že komunikují se strojem, aby se mohli informovaně rozhodnout, zda budou pokračovat, či nikoli.

  2. Minimální riziko: Právní návrh umožňuje volné používání aplikací, jako jsou videohry založené na UI nebo spamové filtry. Do této kategorie spadá převážná většina systémů UI. Návrh nařízení zde nezasahuje, neboť tyto systémy UI představují pro práva či bezpečnost občanů pouze minimální nebo nulové riziko.

Pokud jde o řízení, Komise navrhuje, aby na nová pravidla, jejichž zavádění bude usnadňovat nově zřízená Evropská rada pro umělou inteligenci, dohlížely příslušné vnitrostátní orgány dozoru nad trhem. Ty by měly rovněž řídit vývoj norem UI. Kromě toho se navrhují dobrovolné kodexy chování pro UI, která není vysoce riziková, a tzv. „regulační pískoviště“, jež mají napomoci zavádění odpovědných inovací.

V zájmu zachování celosvětové konkurenceschopnosti je Komise odhodlána podporovat inovace ve vývoji a používání technologií UI ve všech odvětvích, a to ve všech členských státech.

Aktualizovaný koordinovaný plán využije finanční prostředky přidělené prostřednictvím programů Digitální Evropa a Horizont Evropa, facility na podporu oživení a odolnosti, která má 20% cíl v oblasti digitálních výdajů, a programů politiky soudržnosti. Tyto prostředky budou vynaloženy za těmito účely:

  • vytvářet příznivé podmínky pro vývoj a zavádění UI díky výměně poznatků o politikách, sdílení údajů a investicím do kritických výpočetních kapacit,

  • podpořit UI nejvyšší úrovně „z laboratoře až na trh“ vytvářením partnerství veřejného a soukromého sektoru, budováním a mobilizací výzkumných, vývojových a inovačních kapacit a zpřístupňováním testovacích a experimentálních zařízení a center pro digitální inovace MSP a orgánům veřejné správy,

  • zajišťovat, aby UI fungovala ve prospěch lidí a zlepšovala životní podmínky ve společnosti. Toho se dosáhne tím, že se bude vyvíjet a zavádět především důvěryhodná UI, budou se rozvíjet talenty a dovednosti podporou stáží a doktorandských a postdoktorandských studií v oblasti digitalizace, příslušné politiky budou zohledňovat otázku důvěry v UI a celosvětově se bude prosazovat evropská vize udržitelné a důvěryhodné UI,

  • budovat strategické vedení v odvětvích a technologiích s velkým dopadem, včetně životního prostředí, a to zaměřením se na příspěvek UI v oblasti udržitelné výroby, zdraví (prostřednictvím rozšíření přeshraniční výměny informací) a také ve veřejném sektoru, v oblasti mobility, vnitřních věcí, zemědělství a robotiky.

Evropský přístup k novým strojním výrobkům

Mezi strojní výrobky patří široká škála výrobků pro běžné spotřebitele i profesionály, od robotů a sekaček na trávu přes 3D tiskárny a stavební stroje až po průmyslové výrobní linky. Směrnice č. 42/2006 o strojních zařízeních, která byla nahrazena novým návrhem nařízení o strojních výrobcích, definovala u těchto zařízení požadavky na ochranu zdraví a bezpečnost. Návrh nařízení o strojních výrobcích má zajistit, aby nová generace těchto zařízení zaručovala uživatelům a spotřebitelům bezpečnost, a podpořit inovace. Zatímco nařízení o UI se bude zabývat bezpečnostními riziky systémů UI, nové nařízení o strojních výrobcích má zajistit celkové bezpečné začlenění systému UI do strojních zařízení. Podniky budou muset provést pouze 1 posouzení shody. 

Právní rámec se má vztahovat na veřejné i soukromé subjekty v EU i mimo ni, pokud je systém UI uváděn na trh EU nebo pokud jeho používání ovlivňuje osoby nacházející se v EU. Může se týkat jak poskytovatelů vysoce rizikových systémů umělé inteligence (např. vývojář nástroje pro procházení životopisů uchazečů o zaměstnání), tak uživatelů těchto systémů (např. banka, která tento nástroj pro procházení životopisů koupí). Nevztahuje se na soukromá neprofesionální použití.

Předpokládaný další vývoj

EP a členské státy budou přijímat návrhy Komise týkající se evropského přístupu k UI a ke strojním výrobkům řádným legislativním postupem. Po přijetí budou nařízení přímo použitelná v celé EU. Souběžně s tím bude Komise pokračovat ve spolupráci s členskými státy na uskutečňování kroků oznámených v koordinovaném plánu. 

Odkazy

Další články v rubrice

Vnitřní trh v červenci 2021

Euroskop, 10.08.2021

Daně v červenci 2021

Euroskop, 10.08.2021