Meta vylepšuje označování obrázků generovaných umělou inteligencí
Společnost Meta plánuje vylepšit identifikaci obrázků generovaných umělou inteligencí na Facebooku, Instagramu a Threads, aby bylo všem uživatelům hned jasné, že jde o nereálné obrázky. Jde o součást širšího úsilí o potlačení dezinformací, obzvlášť nyní, tedy v době, kdy se v USA budou konat volby.
Podle Nicka Clegga, prezidenta společnosti Meta pro globální záležitosti, společnost začne v nadcházejících měsících označovat obrázky, videa či audioklipy vygenerované pomocí umělé inteligence štítky ve všech jazycích podporovaných jednotlivými aplikacemi.
Společnost Meta tvrdí, že nástroje, na kterých pracuje, budou schopny odhalovat neviditelné značky, tedy informace vytvořené umělou inteligencí, které jsou v souladu s technickými standardy C2PA a IPTC, ve velkém měřítku. Očekává, že bude schopna přesně určit a označit obrázky od společností Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock, které zahrnují metadata generativní umělé inteligence do obrázků.
Co se týče videa a zvuku, Clegg vysvětlil, že společnosti prozatím u výtvorů AI nezačaly používat neviditelné značky ve stejném měřítku jako u obrázků. Meta tak zatím není schopna detekovat video a audio generované nástroji AI třetích stran. Společnost očekává, že uživatelé budou takový obsah označovat sami. V podstatě bude uživatele nutit, aby všechna videa či audia vytvořená GAI označili, pokud tak neučiní, vystavují se nebezpečí sankcí.
Je ale pravděpodobné, že uložení povinnosti uživatelům přidávat informace a štítky k videozáznamům a audiozáznamům se nejspíš mine účinkem. Je totiž pravděpodobné, že řada z nich se jednoduše bude snažit záměrně oklamat ostatní a další se zásadami jednoduše nebudou obtěžovat, případně o nich nebudou vědět.
Meta se také snaží uživatelům ztížit pozměňování nebo odstraňování neviditelných značek z obsahu GAI. Výzkumná laboratoř FAIR AI společnosti vyvinula technologii, která integruje mechanismus vodoznaku přímo do procesu generování obrázků pro některé typy generátorů, což by mohlo být cenné pro modely s otevřeným zdrojovým kódem, takže vodoznak nebude možné smazat.
Zdroj: engadget.com
