USA řeší první případ neoprávněného zatčení na základě chyby systému rozpoznávání tváře

Středa 01. 07. 2020 Redakce

Americká unie občanských svobod (ACLU) podala formální stížnost namířenou proti postupu policie v Detroitu. Její příslušníci se totiž dopustili prvního nezákonného zatčení, jež bylo způsobeno chybou systému rozpoznávání obličeje. Obětí tohoto incidentu se stal Robert Julian-Borchak Williams, afroameričan jehož systém nepravdivě označil jako viníka krádeže.

Technologie rozpoznávání obličeje je dlouhodobě označována za „rasistickou“ kvůli výrazně vyšší neúspěšnosti při rozpoznávání tváří členů afroamerických, asijských a dalších etnik. Během posledního měsíce vzrostl počet případů nasazení této technologie kvůli přetrvávajícím protestům po celých USA.

Williams byl zatčen v lednu letošního roku u svého domu poté, co byl obviněn, že se v letech 2018 a 2019 dopouštěl opakovaně krádeže v jednom z obchodů. Počítač totiž vyhodnotil, že jeho tvář se shoduje s tváří zloděje, jehož zachytily bezpečnostní kamery. Během 30hodinové vazby bylo provedeno přezkoumání a sami policisté uznali, že se Williams fotce zloděje nepodobá. „Počítač pracoval dost špatně.“

Zatčení mělo mimo jiné za následek, že byly do policejní databáze uloženy Williamsovy vzorky DNA a otisky prstů. ACLU nyní žádá vymazání těchto údajů stejně jako záznamů o zatčení, jež by mohly Williamse v budoucnu ohrozit.

Právě vysoká chybovost umělé inteligence při porovnávání tváří některých etnik je terčem dlouhodobé kritiky. Systém porovnávání obličejů je velmi mocný nástroj, avšak jeho chyby by mohly být fatální. Některé společnosti, které tyto systémy vyvíjí se samy rozhodly počkat s jeho distribucí do doby, než bude existovat přesnější legislativní rámec na straně státu a lepší technologie a přesnější algoritmy na straně jich samotných.

Zdroj: theverge.com