Google chce neviditelným digitálním vodoznakem umožnit identifikaci uměleckých děl vytvořených pomocí AI
Společnost Google dnes učinila krok směrem k transparentnosti obrázků generovaných umělou inteligencí. Google DeepMind uvedl nový nástroj SynthID, který má vést k identifikaci generativního umění pomocí vodoznaku. Společnost uvádí, že tato technologie vkládá digitální vodoznak, který je pro lidské oko neviditelný, přímo do pixelů obrázku. SynthID se nejprve zavede pro „omezený počet” zákazníků, kteří používají Imagen, generátor obrázků společnosti Google dostupný v sadě jejích cloudových nástrojů pro umělou inteligenci.
Jedním z mnoha problémů generativního umění – kromě etických důsledků trénování AI na dílech umělců – je možnost vytváření tzv. deepfakes. Například nedávný papežův hiphopový oděv (obrázek vytvořený AI pomocí nástroje MidJourney), který se virálně rozšířil na sociálních sítích, byl prvním příkladem toho, co by se s rozvojem generativních nástrojů mohlo stát běžnějším jevem. Není třeba velké představivosti, abychom si uvědomili, že něco takového jako politická reklama využívající umělou inteligenci by mohlo napáchat mnohem větší škody než vtipný obrázek kolující po Twitteru. „Označování zvukového a vizuálního obsahu vodoznakem, které pomůže jasně odhalit, že se jedná o obsah generovaný umělou inteligencí”, bylo jedním z dobrovolných závazků, na jejichž vypracování se po červencovém setkání v Bílém domě dohodlo sedm společností zabývajících se umělou inteligencí. Google je první ze společností, která takový systém spustila.
Společnost Google uvádí, že vodoznak nelze snadno odstranit pomocí jednoduchých úprav výsledného díla. „Najít správnou rovnováhu mezi nepostřehnutelností a odolností vůči manipulaci s obrázky je obtížné,” píše společnost v dnes zveřejněném příspěvku na blogu DeepMind. „Navrhli jsme SynthID tak, aby neohrozil kvalitu obrazu a umožnil, aby vodoznak zůstal zjistitelný i po úpravách, jako je přidání filtrů, změna barev a ukládání s různými ztrátovými kompresními schématy – nejčastěji používanými pro JPEG,” napsali Sven Gowal a Pushmeet Kohli, vedoucí projektu SynthID společnosti DeepMind.
Zdroj: engadget.com
