Nový nástroj umožní umělcům ochránit svá díla před umělou inteligencí

Umělci se v posledních měsících potýkají se zcela novým problémem – jejich práci bez souhlasu kopírují a dále upravují generátory obrázků využívající umělou inteligenci. Nejnovější snahou o ochranu uměleckých výtvorů je nástroj Nightshade, který umělcům umožní přidávat do svých děl nezjistitelné pixely, které mohou poškodit tréninková data, se kterými AI pracuje, uvádí MIT Technology Review. Nástroj Nightshade přichází v době, kdy velké společnosti jako OpenAI a Meta čelí žalobám za porušování autorských práv a krádeže uměleckých děl.

Profesor Chicagské univerzity Ben Zhao vytvořil aplikaci Nightshade ve snaze vrátit kontrolu nad uměleckými díly zpět do rukou jejich tvůrců. Aplikaci testovali na nejnovějších modelech Stable Diffusion a na vlastní umělé inteligenci.

Nightshade umělou inteligenci v podstatě „otráví“ a mění způsob, jakým model strojového učení vytváří obsah a jak vypadá výsledný vygenerovaný obrázek. Nightshade tak může například způsobit, že umělá inteligence interpretuje příkaz k vytvoření obrázku kabelky jako příkaz k vytvoření toustovače. Může způsobit, že umělá inteligence namísto obrázku kočky vytvoří obrázek psa.

Technologie jako Nightshade by mohly významně přispět k tomu, aby hlavní hráči na poli umělé inteligence začali spravedlivě odměňovat umělce, jejichž díla využívají. Detekce poškozených pixelů by totiž vyžadovala lokalizaci každého kusu poškozených dat, což je velmi náročný úkol.

Zdroj: www.engadget.com