ChatGPT odmítl 250 000 žádostí o deepfake amerických voleb
Během volebního období v USA se mnoho lidí pokusilo použít generátor obrázků DALL-E společnosti OpenAI k vytvoření deepfakes. Společnost nicméně uvedla, že se jí podařilo tomu zabránit. ChatGPT odmítl více než 250 000 žádostí o vygenerování obrázků s prezidentem Bidenem, zvoleným prezidentem Trumpem, viceprezidentkou Harrisovou, zvoleným viceprezidentem Vancem a guvernérem Walzem, uvedla společnost OpenAI v nové zprávě. Společnost vysvětlila, že jde o přímý důsledek bezpečnostního opatření, které dříve zavedla, aby ChatGPT odmítala generovat obrázky se skutečnými osobami, včetně politiků.
Společnost OpenAI se na americké prezidentské volby připravuje od začátku roku. Vypracovala strategii, která měla zabránit tomu, aby její nástroje byly použity k šíření dezinformací, a zajistila, aby uživatelé, kteří se ChatGPT ptají na hlasování v USA, byli odkázáni na stránky CanIVote.org. Společnost OpenAI uvedla, že v měsíci předcházejícím dni voleb nasměrovalo 1 milion odpovědí ChatGPT lidi na tuto webovou stránku. Chatbot také v den voleb a den po nich vygeneroval 2 miliony odpovědí, v nichž lidem, kteří se ho ptali na výsledky, radil, aby se podívali na Associated Press, Reuters a další zpravodajské zdroje. Společnost OpenAI zajistila, aby odpovědi ChatGPT negenerovaly politické preference ani nedoporučovaly kandidáty, a to ani na výslovný dotaz.
DALL-E samozřejmě není jediným generátorem obrázků s umělou inteligencí a na sociálních sítích koluje spousta deepfakes souvisejících s volbami v USA. Jeden takový deepfake například představoval Kamalu Harrisovou v předvolebním videu upraveném tak, aby říkala věci, které ve skutečnosti neřekla.
Zdroj: engadget.com
