Regulační orgány EU schválily první rozsáhlé předpisy o umělé inteligenci na světě

Evropský parlament schválil rozsáhlou legislativu upravující umělou inteligenci, a to téměř tři roky poté, co byl návrh pravidel poprvé předložen. Úředníci dosáhli dohody o vývoji umělé inteligence v prosinci.

Podle EU je cílem předpisů ,,chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před vysoce rizikovou umělou inteligencí a zároveň podpořit inovace a vytvořit z Evropy lídra v této oblasti”. Akt definuje povinnosti pro aplikace s AI na základě potenciálních rizik a dopadů.

Právní předpis se zatím nestal zákonem, ale je pravděpodobné, že Evropská rada jej prosadí a zákon vstoupí v platnost ještě před koncem volebního období, tedy před příštími parlamentními volbami na začátku června.

Mimo zákon tak bude například postaveno ,,necílené dolování” snímků obličejů ze záznamů průmyslových kamer a z internetu za účelem vytváření databází pro rozpoznávání obličejů. Dále budou zakázány aplikace, kde AI ,,manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí”.  Rovněž budou zakázány či omezeny aspekty prediktivní policejní práce, tj. pokud je založena výhradně na posuzování něčích charakteristik (např. odvozování sexuální orientace nebo politických názorů), resp. budou povoleny jen za určitých okolností, např. za účelem pomoci při hledání pohřešované osoby nebo prevence teroristického útoku.

Deepfakes a všechny ostatní obrázky, videa a zvuky generované umělou inteligencí budou muset být jasně označeny. Modely umělé inteligence budou muset respektovat i zákony o autorských právech. Vyňaty budou pouze modely AI vytvořené čistě pro výzkum, vývoj a tvorbu prototypů.

Značná omezení pak čekají rovněž nejvýkonnější modely AI jako je GPT-4 od OpenAI a Gemini společnosti DeepMind. Poskytovatelé těchto modelů budou muset vyhodnocovat a zmírňovat rizika, hlásit závažné incidenty, poskytovat podrobnosti o spotřebě energie svých systémů, zajistit, aby splňovaly normy kybernetické bezpečnosti, a provádět nejmodernější testy a hodnocení modelů.

Zdroj: engadget.com