V USA zasedla nová etická komise zabývající se otázkami AI

Společnost Axon, která se zabývá vývojem speciálních osobních videokamer, které by mohly usnadnit práci policistům, iniciovala vznik nové komise pro AI, jejíž cílem je regulovat použití umělé inteligence. Rada by se měla scházet dvakrát ročně a diskutovat o etických důsledcích používání AI produktech společnosti Axon.

První otázkou, kterou se bude tato rada zabývat, je využívání umělé inteligence při automatickém rozpoznávání obličeje. Možnosti této technologie při použití v praxi testuje britská a čínská policie. Britové je využívají k detekci fotbalových hooligans na stadionech, díky stacionárním kamerám. Čínské pořádkové služby je využívají ve formě speciálních slunečních brýlí přímo v terénu na vlakových stanicích.

Jednou ze základních etických otázek, je jak moc narušuje taková technologie právo na soukromí a kde přesně leží hranice, za kterou může policie v použití této technologie jít. Samostatnou otázkou je potom obrovská zneužitelnost, kterou v sobě podobné nástroje skrývají.

Problémem současných systémů jsou také genderové a rasové předsudky algoritmů. Nezávislé testy ukázaly, že kamery hůře vyhodnocují ženy nebo osoby tmavším pleti. Proto reálně hrozí, že kamera častěji označí jako podezřelou osobu ženu, Afroameričana nebo Hispánce.

Axon sám zatím nevyvíjí technologie rozpoznávání obličeje v reálním čase pro použití při vymáhání práva. Ředitel společnosti Axon Rick Smith, že uznává, že by tato technologie mohla být užitečná v extrémních případech jako je únos dětí nebo hrozba teroristického útoku.

Komise poprvé zasedla (zatím v omezeném složení) tento čtvrtek a výsledky svého rokování by měla předložit nejen vedení společnosti Axon, ale také veřejnosti.

Zdroj: washingtonpost.com