Velcí hráči v oblasti AI se zavázali Bílému domu k omezení deepfake porna

Bílý dům vydal prohlášení, v němž uvádí závazky, které několik společností zabývajících se umělou inteligencí přijímá s cílem omezit vytváření a šíření obrazových materiálů se sexuální tematikou. Zúčastněné společnosti zveřejnily kroky, které podniknou, aby zabránily využívání svých platforem k vytváření nedobrovolných intimních snímků dospělých osob a materiálů se sexuálním zneužíváním dětí (CSAM).

Konkrétně společnosti Adobe, Anthropic, Cohere, Microsoft a OpenAI uvedly, že budou své datové soubory chránit před touto formou zneužití, že do procesů začlení smyčky zpětné vazby a strategie iteračního zátěžového testování, aby se chránily před produkcí sexuálního obsahu AI, samozřejmostí bude také odstraňování nahých obrázků z tréninkových datových sad AI.

Jedná se o dobrovolný závazek, tudíž toto oznámení negeneruje žádné kroky ani důsledky za nedodržování těchto slibů. I tak ale stojí za to ocenit snahu tento závažný problém řešit. Nutno podotknout, že ve zprávě Bílého domu chybí společnosti Apple, Amazon, Google a Meta.

Nicméně mnoho velkých technologických společností a společností zabývajících se umělou inteligencí podniká vlastní kroky k tomu, aby zabránily šíření deepfake obrázků a videí se sexuální tematikou, a to odděleně od tohoto federálního úsilí. Například iniciativa StopNCII spolupracuje s několika společnostmi na komplexním přístupu k řešení tohoto problémů, zatímco další firmy zavádějí vlastní nástroje a postupy.

Zdroj: engadget.com