Žaloba tvrdí, že algoritmy Facebooku a Instagramu usnadnily sexuální obtěžování dětí

V prosinci loňského roku zažaloval stát Nové Mexiko společnost Meta za to, že nechrání děti, a tvrdil, že algoritmy Facebooku a Instagramu doporučují nezletilým sexuální obsah. Nyní byla zveřejněna neredigovaná interní prezentace společnosti Meta, v níž její vlastní zaměstnanci odhadují, že denně bylo obtěžováno 100 000 dětských uživatelů, uvedl deník The Wall Street Journal.

Podle interního dokumentu z roku 2021 byl algoritmus Lidé, které možná znáš společnosti Facebook vyčleněn jako hlavní spojovatel dětí s predátory. Když zaměstnanci tato zjištění oznámili vedení společnosti Meta, údajně odmítla doporučení, aby byl algoritmus přepracován tak, aby přestal doporučovat nezletilým dospělé.

Podle jednoho ze zaměstnanců byla tato funkce zodpovědná za 75 % všech nevhodných kontaktů mezi dospělými a nezletilými. Podle interní poznámky z roku 2020 byly problémy výraznější na Instagramu, kde se rozhovory se sexuálním kontextem vyskytovaly 38krát častěji než na Facebook Messengeru.

Nové Mexiko tvrdí, že Meta nedokázala řešit rozsáhlé útoky predátorů na své platformě, zejména v souvislosti s doporučovacími algoritmy. Státní vyšetřovatelé původně vytvořili falešné dětské účty a uvedli na nich data narození dospělých, protože děti často uvádějí nesprávný věk, aby měly přístup k online službám, které jsou pro ně zakázány. Poté naznačili, že účty používají děti, přičemž jeden z nich zveřejnil příspěvek o ztraceném mléčném zubu a nástupu do sedmé třídy. V žalobě se mimo jiné tvrdilo, že na účty byly zasílány sexuální obrázky dětí a nabídky na placený sex.

Stát dále tvrdí, že vedení Meta přijalo opatření k omezení predátorství dospělých vůči nezletilým až koncem roku 2022 a stále nezavádí přísná opatření doporučená bezpečnostními pracovníky. Místo toho se pouze pokusilo zablokovat nabídky dospělým, kteří dříve vykazovali podezřelé chování vůči dětem. Podle studie společnosti Meta však 99 % účtů zablokovaných kvůli obtěžování dětí neuvádí svůj věk.

Meta nedávno zavedla opatření pro dospívající uživatele Instagramu a Facebooku, včetně zabránění tomu, aby jim nesledující uživatelé posílali zprávy, a blokování urážlivých komentářů. Kromě stížnosti z Nového Mexika čelí společnost Meta žalobám ze 41 států, které si stěžují, že poškozuje duševní zdraví nejmladších uživatelů.

Zdroj: engadget.com