Regulátoři EU vyzývají k přísné regulaci používání AI systémů na veřejnosti, nebezpečí zneužití a diskriminace je příliš vysoké

Když mluvíme o výhodách technologie pro rozpoznávání obličeje, měli bychom se vždy zmínit i o nebezpečích, která se s ní pojí. Tím nejzásadnějším je přímý zásah do soukromí a možné zneužití získaných údajů.

Regulátoři Evropské unie, kteří se zabývají ochranou osobních údajů, nyní vyzvali k zákazu používání umělé inteligence pro rozpoznávání obličejů a dalších podobných technologií ve veřejných prostorách. Evropský sbor pro ochranu osobních údajů (EDPB) a evropský inspektor ochrany údajů (EDPS) ve společném stanovisku uvedli, že používání umělé inteligence pro jakýkoli typ sociálního hodnocení by mělo být striktně zakázáno.

To podle EDPB a EDPS konkrétně znamená zákaz používání umělé inteligence pro „rozpoznávání obličejů, chůze, otisků prstů, DNA, hlasu, stisků kláves a dalších biometrických údajů nebo způsobů chování, a to v jakémkoli kontextu“ ve veřejně přístupných prostorách. Mělo by být tedy nezákonné, aby AI systémy využívaly biometrické údaje ke kategorizaci lidí „do skupin na základě etnického původu, pohlaví, politické nebo sexuální orientace“, ale také na základě dalších způsobů klasifikace, která by mohla vést k diskriminaci.

Podle obou instancí by měl existovat také zákaz používání umělé inteligence k zjišťování emocí osob. V tomto případě by mohla být výjimka pro specifické situace, kdy jde o zdraví člověka. Podobně i výše uvedené zákazy (např. systém pro rozpoznávání tváří) by mohly získat výjimku například při pomoci hledání pohřešovaných dětí či při předcházení „konkrétní, podstatné a bezprostřední hrozbě“, jakou je například teroristický útok.

Jak už to tak ale v případě technologií bývá, jde o velmi tenký led. Ačkoli si většina z nás uvědomuje potřebu regulace na veřejnosti, je pravdou, že některé AI technologie mohou společnosti i prospět (zejména právě při identifikaci možných pachatelů trestných činů). Každopádně možnost, že někdo danou technologii začne zneužívat, rozhodně není malá. Využití například pro marketingové účely se přímo nabízí.

Zdroj: engadget.com