Evropská rada v úterý oznámila, že ministři členských států Evropské unie (EU) definitivně schválili zákon o umělé inteligenci (AI) bloku, který podrobuje vysoce rizikové aplikace umělé inteligence přísnější regulaci.

Zákon zakazuje systémy umělé inteligence zapojené do kognitivně behaviorální manipulace a sociálního hodnocení v rámci EU. Zakazuje také používání umělé inteligence pro prediktivní policejní práci založenou na profilování a systémech, které využívají biometrická data ke kategorizaci lidí podle konkrétních kategorií, jako je rasa, náboženství nebo sexuální orientace.

U systémů umělé inteligence pro obecné účely zákon vyžaduje dodržování požadavků na transparentnost, pokud nepředstavují systémová rizika. Systémy s takovými riziky však musí dodržovat přísnější pravidla.

Zákon z těchto předpisů vyjímá zejména systémy používané výhradně pro vojenské, obranné a výzkumné účely.

Aby bylo zajištěno řádné vymáhání, zákon zřizuje několik řídících orgánů, včetně úřadu AI, vědeckého panelu odborníků, rady AI se zástupci členských států a poradního fóra pro zúčastněné strany.

Po podpisu předsedů Evropského parlamentu a Rady EU bude zákon zveřejněn v Úředním věstníku EU a vstoupí v platnost 20 dní po zveřejnění.

Hlasování zemí EU proběhlo dva měsíce poté, co zákonodárci EU podpořili legislativu AI navrženou Evropskou komisí v roce 2021 po provedení řady klíčových změn. Nový zákon přijímá přístup založený na riziku.

Obavy z toho, že umělá inteligence přispívá k dezinformacím, falešným zprávám a materiálům chráněným autorskými právy, se v posledních měsících celosvětově zintenzivnily v souvislosti s rostoucí popularitou generativních systémů umělé inteligence, jako je ChatGPT podporovaný Microsoftem OpenAI a chatbot Gemini od Googlu.

„Tento přelomový zákon, první svého druhu na světě, řeší globální technologickou výzvu, která také vytváří příležitosti pro naše společnosti a ekonomiky,“ uvedl v prohlášení belgický ministr zahraničí pro digitalizaci Mathieu Michel. „Pomocí zákona o umělé inteligenci Evropa zdůrazňuje důležitost důvěry, transparentnosti a odpovědnosti při zacházení s novými technologiemi a zároveň zajišťuje, že tato rychle se měnící technologie může vzkvétat a podporovat evropské inovace,“ řekl.

Nová legislativa bude mít dopad i mimo 27 zemí, řekl Patrick van Eecke z advokátní kanceláře Cooley. „Zákon bude mít globální dosah. Budou se jím muset řídit i společnosti mimo EU, které používají údaje o zákaznících z EU na svých platformách umělé inteligence. Jiné země a regiony pravděpodobně použijí zákon o umělé inteligenci jako předlohu, stejně jako to udělaly s GDPR (Obecné nařízení o ochraně osobních údajů),“ uvedl s odkazem na pravidla ochrany soukromí EU.

Zatímco nová legislativa bude krok za krokem plně uplatněna v roce 2026, zákazy používání umělé inteligence v sociálním hodnocení, prediktivní policejní práci a necíleném sbírání snímků obličejů z internetu nebo záběrů uzavřeného televizního vysílání začnou platit za šest měsíců, jakmile vstoupí nová nařízení v platnost. Povinnosti pro obecné modely umělé inteligence budou platit po 12 měsících a pravidla pro systémy umělé inteligence zabudované do regulovaných produktů za 36 měsíců.

(Yawen)