Umělá inteligence může chybovat při vyhodnocování obsahu – diskuze o šachách je podle ní rasistická

Na sklonku loňského roku se mimořádné popularity dočkal seriál The Queen’s Gambit, který tematizoval hru šachy. Zajímavé, že právě tato hra, respektive videa jí věnovaná mohou mít problém – umělá inteligence je může vyhodnotit jako závadná kvůli rasismu.

Dvojice vědců z Carnegie Mellon University se domnívá, že přesně na tento problém narazil Antonio Radic, neboli „agadmátor“, chorvatský šachista, který provozuje populární kanál YouTube. Loni v červnu byl však jeho účet znenadání zablokován s odůvodněním, že šíří škodlivý obsah. Server YouTube nikdy neposkytl vysvětlení celé situace a kanál po 24 hodinách opět odblokoval.

Podle Ashiqura R. KhudaBukhshe, vědeckého pracovníka Ústavu jazykových technologií CMU (LTI) byl hlavním důvodem blokace Radiho rozhovor s velmistrem Hikaru Nakamurou. Tam padaly často slova o útocích černých a bílých (jako ostatně v běžném rozboru šachové partie). Automatický program tato slova zachytil a vyhodnotil je jako projev rasové nenávisti, a kanál proto zablokoval.

Vědci udělali pokus a shromáždili více než 680 000 komentářů z pěti populárních šachových kanálů na YouTube a nechali je vyhodnotit dvěma nejpokročilejšími algoritmy určenými k vyhledávání a detekci projevů nenávisti. Následně náhodně vybrali 1000 komentářů, které byly označeny jako škodlivé a ručně je zkontrolovali. Zjistili, že 82% z nich nezahrnuje projevy nenávisti nebo jiný problém, kvůli němuž by jejich obsah mohl být vyhodnocen jako škodlivý.

Zdroj: techxplore.com