Midjourney ukončuje bezplatný přístup ke svému AI generátoru obrázků kvůli častému zneužívání
Společnost Midjourney se rozhodla ukončit bezplatný přístup ke svému generátoru obrázků využívajícího umělou inteligencí poté, co uživatelé pomocí tohoto nástroje vytvořili známé deepfakes. Generální ředitel David Holz na serveru Discord uvedl, že společnost ukončuje bezplatné zkušební verze kvůli mimořádnému zájmu a zneužívání. „Stávající ochranná opatření nestačila k tomu, aby zabránila zneužití během zkušebního období,“ uvedl Holz. Nově si zájemci za používání této technologie budou muset zaplatit minimálně 10 dolarů měsíčně.
Jak vysvětil deník The Washington Post, Midjourney se v posledních týdnech ocitla v centru nechtěné pozornosti. Uživatelé v rámci tohoto nástroje vytvářeli deepfakes Donalda Trumpa, který byl zatčen, či papeže Františka v nezvyklém oděvu. I když byly obrázky rychle identifikovány jako falešné, objevují se obavy, že uživatelé zneužívající Midjourney, DALL-E od OpenAI a podobné generátory mohou své výtvory snadno použít k šíření dezinformací.
V rámci středečního chatu s uživateli Holz uvedl, že má potíže s nastavením zásad týkající se obsahu, protože umělá inteligence umožňuje stále realističtější zobrazování. Midjourney doufá, že se podaří zlepšit moderování umělou inteligencí, která bude kontrolovat, zda nedochází ke zneužívání.
Například OpenAI se při provozování svého nástroje využívajícího AI k tvorbě obrázků uchýlila k velmi přísným pravidlům, aby zneužití zabránila. Zakázala generovat jakékoliv obrázky probíhajících politických událostí, konspiračních teorií a politiků. Zakazuje také témata obsahující nenávistný, sexuální či násilný obsah. Ostatní společnosti však mají poměrně volná pravidla. Například Stability AI nedovoluje uživatelům Stable Diffusion kopírovat styly nebo vytvářet obrázky, které nebyly uznány jako vhodné pro práci, ale obecně nestanovuje, co uživatelé mohou vytvářet.
Zdroj: engadget.com
