Instagram začal používat strojové učení k boji proti šikaně

Populární sociální síť na sdílení fotografií a videí Instagram začala používat strojové učení k boji proti šikaně ve fotografiích a jejich popiscích. Technologií označené příspěvky poté síť odesílá moderátorům k přezkoumání.

„Tato změna nám pomůže identifikovat a odstraňovat podstatně více případů šikany a je dalším zásadním krokem kupředu, protože mnoho lidí, kteří zažijí šikanu nebo se stanou jejími svědky, ji nenahlásí,“ napsal na blogu šéf sítě Adam Mosseri a dodal, že technologie pomůže provozovatelům sítě ochránit nejmladší členy komunity, protože náctiletí jsou internetovou šikanou ohroženi nejvíce.

Instagram začal již v květnu aktivně odstraňovat šikanující komentáře z členských profilů, feedů a sekce Explore, nyní to samé začal dělat u komentářů v sekci Live Video.

Mezitím se síť musela potýkat s dalším problémem – podle webu businessinsider.com se na její videoplatformě IGTV, spuštěné v létě, objevoval nevhodný obsah pro děti, „zavánějící“ navíc sexuálním zneužíváním děti, např. video s velmi mladou dívkou svlékající se v koupelně a dělající při tom erotická gesta. Kromě toho zde bylo k vidění např. i drastické video, které zobrazovalo zmrzačený penis. Platforma taková videa webu během tří týdnů, co její obsah monitoroval, doporučovala jak v záložce Popular, tak v sekci For You (web si pro tento účel vytvořil účet, který neměl žádnou historii aktivit na Instagramu a měl uživatelský věk nastavený na 13 let).

Instagram ve svém prohlášení uvedl, že veškerá videa, na které web upozornil, byla krátce poté odstraněna. Podle webu po nahlášení závadného obsahu pomocí příslušné funkce však videa zůstala on-line ještě pět dní a stačila nasbírat přes milion zhlédnutí.

 

Zdroj: pcmag.com, businessinsider.com