Umělá inteligence pod lupou: EU ji chce opět omezovat a zakazovat.
Předpokládá se, že spíše negativní. Tento návrh totiž plní politický závazek předsedkyně von der Leyenové, která se zavázala, že umělou inteligenci "zastaví", jelikož se jedná o nebezpečnou technologii budoucnosti, která by mohla jednoho dne převzít vedení v evropské komisi. Hned na to navazuje bílá kniha o umělé inteligenci - tedy Evropský přístup k excelenci a důvěře, která byla zveřejněna 19. února 2020. Bílá kniha nastiňuje možnosti politiky, jak dosáhnout dvojího cíle podporovat rozvoj AI a zároveň řešit rizika spojená s určitými použitími této technologie.
Tento návrh má dále za cíl naplnit druhý cíl rozvoje ekosystému důvěry tím, že navrhuje právní rámec pro důvěryhodnou AI. Tento rámec právně definuje umělou inteligenci a ukládá požadavky na dokumentaci, audit a procesy pro poskytovatele AI. Rámec také rozděluje aplikace AI do tří kategorií rizik. První kategorie zahrnuje aplikace a systémy, které vytvářejí nepřijatelné riziko, jako je například "státní sociální skórování" podobné tomu, které se používá v Číně. Tyto aplikace jsou tedy zakázány.
Zdroj: Shutterstock
Druhá kategorie zahrnuje aplikace a systémy, které vytvářejí vysoké riziko, jako je například biometrické rozpoznávání nebo AI používaná v dopravě, zdravotnictví nebo veřejné správě. Tyto aplikace musí splňovat řadu požadavků, jako je transparentnost, lidský dohled, kvalita dat a bezpečnost. Třetí kategorie zahrnuje aplikace a systémy, které vytvářejí nízké nebo minimální riziko, jako je například AI používaná v hračkách nebo chatbotech. Tyto aplikace nejsou regulovány, ale jsou podporovány dobrovolnými kódy chování.
Na závěr je tedy třeba říci, že i přestože je tento návrh zákona "myšlen dobře a samozřejmě jako vždy v prospěch evropanů," bude mít s největší pravděpodobností dalekosáhlé důsledky pro vývojáře, uživatele a společnost jako celek. Pro vývojáře tento AI zákon znamená nové povinnosti a zodpovědnosti, které mohou zvýšit náklady a složitost jejich práce. Pro společnost jako celek to znamená snahu o zachování "důležitých evropských hodnot" a principů v oblasti, která má "zásadní" vliv na budoucnost lidstva.