Facebook musel odstranit funkci umělé inteligence, byla rasistická

Umělá inteligence je velmi užitečný a všestranný nástroj, rozhodně však ne dokonalý. O tom se přesvědčila také společnost Facebook, jež možnosti AI využívá na řešení různých úkolů na mnoha úrovních. A jeden z algoritmů způsobil během léta opravdu nepříjemný problém. Umělá inteligence totiž v rámci automatického třízení obsahu videí udělala zásadní chybu a k videu o černoších, kteří se hádají s policisty, přidala klíčové slovo primáti.

Tento omyl následně zapříčinil, že některým uživatelům se ke konci videa objevila výzva, zda chtějí sledovat další video o primátech. Toho si všimli někteří uživatelé ve Velké Británii a se svým objevem seznámili tamní bulvární média, která o celé události informovala.

Facebook se za celou událost ihned omluvil a označil ji za naprosto nepřijatelnou chybu. Mluvčí dodal, že příčina chyby je v šetření. Vše vzniklo omylem v rámci snahy zkvalitnit služby, které prostředí největší sociální sítě světa svým uživatelům nabízí. Služba byla z pochopitelných důvodů okamžitě deaktivována.

Nejedná se o první incident, v rámci nejž se umělá inteligence dopustila hrubě nekorektního chování. V minulosti vykazovala při několika případech použití rasovou nebo genderovou předpojatost, a to v různých formách. Uživatelé také dokázali během několika hodin nakazit chatbota rasismem. Facebook měl v minulosti problém s tím, že automatické označování fotografií (které nikdy nefungovalo příliš spolehlivě) označovalo jedince s tmavší pletí jako gorily.

Zdroj: TheVerge.com