Úvod
Akt o umělé inteligenci (AI Act) je revoluční legislativní nástroj Evropské unie, který stanovuje celosvětově první pravidla pro regulaci umělé inteligence. Tento právní předpis, schválený Radou EU, zavádí harmonizovaný přístup k vývoji a používání AI na základě posouzení rizik. Jeho cílem je zajistit bezpečné a důvěryhodné používání AI, ochranu základních práv občanů a zároveň podpořit inovace v této oblasti.
Jaké konkrétní povinnosti z tohoto aktu vyplývají pro členské státy a uživatele? A jaké kroky budou muset podniknout firmy, veřejné instituce i jednotlivci, kteří AI využívají? Podívejme se na lehkou sumarizaci informací.
Co přináší Akt o umělé inteligenci?
Akt o umělé inteligenci klasifikuje systémy AI podle rizika a stanovuje požadavky na jejich vývoj, implementaci a používání. Hlavní body aktu zahrnují:
- Klasifikace systémů podle rizika:
- Omezené riziko: Povinnosti spojené s transparentností, například označení obsahu vytvořeného AI.
- Vysoce rizikové systémy: Musí splňovat přísná pravidla, jako je posouzení dopadu na základní práva a registrace v databázi EU.
- Zakázané systémy: Například systémy pro sociální kredit, prediktivní policejní práci nebo kognitivně behaviorální manipulaci.
- Transparentnost a ochrana základních práv:
- Povinnost informovat uživatele o tom, že jsou vystaveni AI systémům, například při rozpoznávání emocí nebo používání biometrických údajů.
- Povinnost posoudit dopad vysoce rizikových systémů na základní práva.
- Podpora inovací:
- Zřízení regulačních sandboxů pro testování AI v kontrolovaném prostředí.
- Podpora malých a středních podniků, které budou mít přístup k přiměřeným pokutám v případě porušení pravidel.
- Nová struktura řízení:
- Zřízení úřadu pro AI v rámci Evropské komise.
- Vytvoření vědecké komise nezávislých odborníků a rady pro AI.
Kompletní znění aktu a jeho kontext můžete nalézt v následujících odkazech:
- Nařízení o umělé inteligenci (AI Act), 21. května 2024
- Evropský přístup k umělé inteligenci (informace Evropské komise)
Povinnosti pro členské státy
Členský stát EU bude muset přijmout a implementovat pravidla stanovená Aktem o umělé inteligenci. Mezi hlavní povinnosti patří:
- Vytvoření národního rámce pro implementaci pravidel:
- Stát bude muset zajistit, že národní legislativa bude v souladu s pravidly AI Actu.
- Budou muset být zřízeny národní orgány, které budou spolupracovat s úřadem pro AI na úrovni EU.
- Podpora podniků a institucí:
- Poskytnutí podpory firmám, zejména malým a středním podnikům, aby mohly splnit nové požadavky.
- Zajištění přístupu k regulačním sandboxům a dalším nástrojům pro testování a vývoj AI.
- Ochrana občanů:
- Zavedení opatření na ochranu základních práv občanů, například při používání biometrických systémů nebo systémů rozpoznávání emocí.
Povinnosti pro uživatele AI
Uživatelé AI, ať už jde o firmy, veřejné instituce nebo jednotlivce, budou muset dodržovat následující pravidla:
- Transparentnost:
- Informovat osoby, které jsou vystaveny systémům AI, například při použití systémů rozpoznávání emocí nebo generování obsahu.
- Zajistit, že obsah vytvořený AI bude jasně označen.
- Dodržování pravidel pro vysoce rizikové systémy:
- Pokud firma nebo instituce používá vysoce rizikový systém AI, bude muset zajistit jeho registraci v databázi EU a splnit přísné požadavky na bezpečnost a odpovědnost.
- Zákaz používání zakázaných systémů:
- Uživatelé nesmějí používat systémy, které jsou v EU zakázané, například systémy pro sociální kredit nebo prediktivní policejní práci.
Závěrem
Akt o umělé inteligenci představuje významný krok k regulaci AI na úrovni EU a nastavuje standardy, které mohou ovlivnit celý svět.
Pro firmy a uživatele AI je klíčové začít se připravovat na nové požadavky, zejména pokud jde o transparentnost, registraci vysoce rizikových systémů a dodržování pravidel. Přestože regulace přináší nové povinnosti, zároveň otevírá dveře k inovacím a rozvoji AI v bezpečném a kontrolovaném prostředí.
Více informací najdete na oficiálních stránkách EU:
- Evropský přístup k umělé inteligenci
- Digitální budoucnost pro Evropu
- Umělá inteligence (souvislosti)
