Instagram bude testovat nová opatření proti sexuálnímu vydírání

Instagram zdaleka není zářným příkladem ochrany mladých lidí na internetu,  neboť se mu nepodařilo zabránit tomu, aby jeho algoritmus propagoval materiály týkající se sexuálního zneužívání dětí. Nové funkce však přinášejí určitou (alespoň snad malou) naději, že by se platforma mohla stát o něco bezpečnější. Meta oznámila, že zavádí nové nástroje, které mají uživatele chránit před zneužíváním intimních snímků a sexuálnímu vydírání – kdy je osoba digitálně vydírána pod pohrůžkou sdílení intimních fotografií či videí.

Jednou z nejvýznamnějších aktualizací je, že ochrana před nahotou přichází i do soukromých zpráv. Po zapnutí bude nástroj strojového učení detekovat a rozmazávat obrázky, u kterých bude mít podezření, že obsahují nahotu. Analýza probíhá v zařízení uživatele, takže zprávy by měly zůstat end-to-end zašifrované, aniž by k nim Meta měla přístup. Uživatelé budou mít možnost zobrazit obrázek spolu s vyskakovacím oknem se zprávou od společnosti Meta, že by se neměli cítit pod tlakem, aby reagovali, spolu s tlačítkem bezpečnostních rad a možností zablokovat odesílatele.

Nový nástroj společnosti Meta – který začne ,,brzy” testovat – dále například rozpozná, zda osoba posílá nahý obrázek, a upozorní ji, aby ,,byla při sdílení citlivých fotografií opatrná”, a zároveň nastíní možná rizika.

Pak jsou tu nástroje určené k odhalení potenciálních podvodníků nebo sextorů a ztížení jejich přístupu k dospívajícím. Žádosti o zprávy od možných podvodníků by nyní měly přecházet do skrytých žádostí a každý, kdo se již do konverzace zapojil, obdrží varování a popis kroků k nahlášení uživatelů.

Zdroj: engadget.com