OpenAI digitálně označí snímky vytvořené programem DALL-E 3, aby pomohl bojovat proti dezinformacím

V době, kdy podvodníci využívají generativní umělou inteligenci k finančním podvodům a poškozením pověsti, přicházejí technologické firmy s metodami, které uživatelům pomáhají digitální obsah ověřovat – pro začátek alespoň statické obrázky. OpenAI nyní zahrnuje metadata o původu do obrázků generovaných pomocí ChatGPT a DALL-E 3 API, přičemž jejich mobilní protějšky obdrží stejnou aktualizaci do 12. února.

Metadata se řídí otevřeným standardem C2PA (Coalition for Content Provenance and Authenticity), a když jeden takový obrázek nahrajete do nástroje Content Credentials Verify, budete moci vysledovat jeho původ. Například u obrázku vytvořeného pomocí rozhraní ChatGPT se zobrazí počáteční metadatový manifest označující jeho původ v rozhraní DALL-E 3 API, po kterém následuje druhý metadatový manifest ukazující, že se objevil v rozhraní ChatGPT.

Navzdory vymyšlené kryptografické technologii, která stojí za standardem C2PA, funguje tato metoda ověření pouze v případě, že jsou metadata neporušená; nástroj je k ničemu, pokud nahrajete obrázek vygenerovaný umělou inteligencí bez metadat – což je případ jakéhokoli snímku obrazovky nebo nahraného obrázku na sociálních sítích. Na své stránce s nejčastějšími dotazy OpenAI přiznává, že nejde o velkoplošné řešení dezinformačních problémů, ale domnívá se, že tento krok může povzbudit uživatele, aby původ obrázků aktivně vyhledávali.

Zatímco nejnovější snaha OpenAI o znemožnění falešného obsahu se v současné době omezuje na statické obrázky, DeepMind společnosti Google již disponuje technologií SynthID pro digitální označování obrázků i zvuků generovaných umělou inteligencí. Společnost Meta mezitím testuje neviditelné vodoznaky prostřednictvím svého generátoru obrázků AI, které mohou být méně náchylné k manipulaci.

Zdroj: engadget.com