Oblíbená AI platforma poskytuje odměnu tvůrcům pornografických deepfake skutečných lidí
Civitai je online tržiště pro sdílení modelů umělé inteligence. Tato platformě právě představila novou funkci nazvanou Odměny, která má povzbudit komunitu k tvorbě deepfake skutečných lidí. Tuto zprávu přinesla 404 Media. Ten, kdo vymyslí nejlepší model umělé inteligence, získá virtuální měnu nazvanou Buzz.
Řada úkolů, za něž lze získat odměny, zahrnuje vytvoření podoby celebrit a známých osobností, zpravidla žen. U mnohých z nich má jít přitom o „nekonsensuální sexuální obrázky“. Tento typ deepfake se po internetu šíří už léta, ale umělá inteligence umožňuje ještě realističtější výsledek. Kromě toho 404 Media našla některé žádosti, jež zahrnují také vytvoření takovýchto deepfake soukromých osob, což je mnohem děsivější.
„Mám velký strach z toho, kam se tento trend může dostat,“ řekla 404 Media Michele Alvesová, influencerka z Instagramu, o jejíž deepfake je na Civitai také zájem. „Nevím, jaká opatření bych měla udělat, protože internet mi připadá jako místo, které se vymklo kontrole.“
Podle společnosti Andreessen Horowitz je Civitai v současnosti sedmou nejpopulárnější platformou věnující se generativní umělé inteligenci, což jinými slovy znamená, že tomuto trendu může podlehnout celá řada uživatelů. Není divu, že například Virginie nedávno aktualizovala své zákony týkající se vytváření pornografie a tvůrce deepfake trestá až jedním rokem vězení.
Stojí nicméně za zmínku, že jen velmi málo žádostí o vytvoření deepfake výslovně uvádí, že požadují materiál se sexuální tematikou a vyjadřují se vágně. V některých případech jsou však žádosti naopak otevřeně explicitní a používají výrazy jako „zvrhlá žádost“ například spolu s požadavky na velká prsa. Civitai zase tvrdí, že vytváření deepfake by nemělo být používáno k vytváření pornografických obrázků skutečných lidí generovaných umělou inteligencí bez souhlasu.
Povoleny jsou však jak sexuální snímky veřejně vystupujících osob, tak nesexuální snímky běžných lidí. Pak už jde jen o to, aby se obojí zkombinovalo. Nutno podotknout, že vytvoření jednoho obrázku zabere pouze několik sekund.
Zdroj: engadget.com
