Evropské nařízení o umělé inteligenci
Dne 13. března 2024 bylo Evropským parlamentem schváleno znění Nařízení o umělé inteligenci, které stanovuje řadu pravidel pro subjekty jejichž činnost je jakkoliv spojena s využitím umělé inteligence.
Nařízení se řídí základním principem, čím více rizik, tím více regulace. Jeho cílem je chránit zejména zdraví, bezpečnost a práva osob, do jejichž sféry může umělá inteligence zasáhnout.
Jednotlivé druhy umělé inteligence nařízení třídí podle způsobu jejich využití, přičemž největší pozornost je věnována systémům umělé inteligence s tzv. vysokým rizikem – na tyto systémy je kladena řada povinností jako např. povinnost vypracovat systém řízení rizik, požadavky na transparentnost či nutnost lidského dohledu.
Druhou důležitou skupinou jsou tzv. systémy nepřijatelného rizika, jejichž využití je zakázáno (až na určité výjimky pro vymáhání práva např. při teroristickém útoku). Mezi systémy nepřijatelného rizika jsou řazeny funkcionality jako „sociální kredit“, rozpoznávání emocí na pracovišti nebo plošný biometrický screening.
Tímto nařízením bude dotčena řada institucí a poskytovatelů služeb, včetně finančního sektoru. Dotčené subjekty budou povinny implementovat požadavky nařízení, a to i v případě, že budou systémy umělé inteligence nejen vyvíjet, ale ve svých procesech „pouze“ zavádět.
