Umělá inteligence bojuje proti extrémistickému obsahu na serveru YouTube

Společnost Google se zavázala, že bude pokračovat ve vývoji programů s umělou inteligencí, které by bojovaly proti extrémistickému obsahu na internetu. Jejich kód je založen na systému strojového učení, který umožňuje odhalit nezákonný obsah videí a upozornit na něj. V porovnání s lidskými kontrolory je tento systém schopen pracovat rychleji a bez přestávek.

Google využívá tyto programy společně s lidskými recenzenty jako součást vzájemně propojených přístupů k boji proti šíření extrémistických názorů prostřednictvím serveru YouTube.

Mluvčí YouTubu řekla: „I když tyto nástroje nejsou dokonalé a nefungují ve všech případech, ukázaly se být v mnoha případech přesnější a rychlejší než jejich lidští kolegové. Jejich činnost nám pomohla zdvojnásobit počet videí, která jsme odstranili kvůli jejich extrémistickému obsahu. Sedmdesát pět procent škodlivého obsahu nemělo ani jedno zhlédnutí, když se nám jej podařilo odstranit.“

Jedním z problémů, se kterým si musí kontroloři YouTubu poradit, je množství obsahu. Během každé minuty tam přibude zhruba 400 hodin videí, což dělá z filtrování obsahu v reálném čase obrovskou výzvu.

Dalším krokem v boji proti extremismu je spolupráce s 15 nevládními organizacemi, jako jsou Anti-Defamation League, No Hate Speech Movement a Institute for Strategic Dialogue, které zajistí lepší vhled do problematiky nenávistných projevů, radikalizace a terorismu.

Server také začal přesměrovávat vyhledávání určitých klíčových slov na speciální videa, která jsou provázena komentářem kurátora, jenž obsah videa konfrontuje s realitou.

Společnost Google a server YouTube, který pod ni náleží, se snaží touto kampaní zlepšit svou pověst. V nedávné době došlo na YouTubu k masivnímu odlivu zadavatelů reklamy jako jsou Pepsi, Walmart, Johnson & Johnson nebo britská vláda. Stalo se tak poté, co bylo zjištěno, že jejich reklamy byly umístěny vedle videí s násilným a extrémistickým obsahem.

Zdroj: theguardian.com