Aplikace PhotoGuard ochrání snímky před nežádoucími úpravami umělou inteligencí

Aplikace jako Dall-E a Stable Diffusion umožňují uživatelům za pomoci umělé inteligence upravovat fotografie. Podobných generativních systémů umělé inteligence je čím dál tím více a aplikace na úpravu obrázků už vyvíjí i velké firmy jako Adobe nebo Shutterstock. S novými aplikacemi však přicházejí i nové problémy. Fotografie, umělecká díla i obrázky mohou být nyní jednoduše zmanipulovány nebo i ukradeny. Krádežím mohou zabránit vodoznaky a před manipulací fotografií by měla uživatele ochránit nová technologie PhotoGuard vyvinutá na Massachusetts Institute of Technology.

PhotoGuard nabídne dva způsoby ochrany. První jednodušší metoda funguje tak, že upraví vybrané pixely v obrázku takovým způsobem, že naruší schopnost umělé inteligence obrázek rozpoznat. Tyto “perturbace”, jak je označuje výzkumný tým, jsou pro lidské oko neviditelné, ale pro stroje jsou snadno čitelné. Tato metoda v podstatě brání umělé inteligenci pochopit, na co se dívá. Druhá metoda takzvaného “difuzního” útoku (která je pokročilejší a výpočetně náročnější) naopak obrázek v očích umělé inteligence zamaskuje jako úplně jiný obrázek.

Technika ještě není stoprocentně spolehlivá. Záškodníci by totiž mohli za pomoci metody reverzivního inženýrství obrázek zase učinit pro umělou inteligenci čitelný – toho by mohli docílit například přidáním digitálního šumu, oříznutím nebo převrácením obrázku.

“Práce na tomto naléhavém problému je dnes nesmírně důležitá,” uvedl doktorand z MIT a hlavní autor článku Hadi Salman v tiskové zprávě. “A přestože jsem rád, že mohu k tomuto řešení přispět, je třeba ještě hodně práce, aby se tato metoda ochrany stala praktickou.“

Zdroj: www.engadget.com