OpenAI zkoumá textové vodoznaky pro ChatGPT, které by mohly odhalit podvádějící studenty

Obsah generovaný umělou inteligencí avšak vydávaný některými lidmi za vlastní, je velkým problémem. Není proto divu, že v návaznosti na zprávu deníku The Wall Street Journal, která tvrdí, že společnost OpenAI pracuje na nástroji, který dokáže s vysokou přesností odhalit eseje napsané ChatGPT, se společnost podělila o několik informací o svém výzkumu v oblasti vodoznaků textu.

Společnost OpenAI uvedla, že vodoznak je jedním z několika řešení, včetně klasifikátorů a metadat, které zkoumala v rámci svého výzkumu. Podle společnosti OpenAI vodoznak ve většině situací funguje velmi dobře, nicméně to neplatí vždy – například při překladech textu, přeformulování pomocní dalšího AI modelu či požádání AI, aby mezi každé slovo vložila speciální znak a poté tento znak odstranila.

Podle vyjádření společnosti by navíc používání textových vodoznaků mohlo negativně ovlivnit některé uživatele. Například by mohlo stigmatizovat používání umělé inteligence jako užitečného nástroje pro psaní pro ty, pro které angličtina není rodným jazykem.

Podle příspěvku na blogu společnost OpenAI tato rizika zvažuje. Společnost také napsala, že se prioritně zaměřila na uvolnění nástrojů pro ověřování audiovizuálního obsahu. Mluvčí OpenAI prozradil, že společnost prozatím udržuje velkou otevřenost, co se týče ověřování původu textů, a to kvůli složitosti a pravděpodobnému dopadu na širší ekosystém mimo OpenAI. Na textové vodoznaky si proto nejspíš budeme muset ještě nějakou dobu počkat.

Zdroj: engadget.com