Foto: se svolením Open AI

OpenAI tvrdí, že dokáže rozpoznat obrázky vytvořené vlastním softwarem

Můžeme si myslet, že jsme celkem dobří v rozpoznávání obrázků vytvořených umělou inteligencí. Technologie se však neustále vyvíjí a nebude trvat příliš dlouho, než nebudeme schopni rozeznat, co je skutečné a co ne. Lídr v oboru, společnost OpenAI, se snaží tento problém předběhnout vytvořením sady nástrojů, které detekují obrazy vytvořené vlastním generátorem DALL-E 3. Výsledky jsou smíšené.

Společnost tvrdí, že dokáže detekovat obrázky vytvořené generátorem DALL-E 3 v 98 procentech případů. Jsou zde však poměrně velká omezení. Za prvé, obrázek musí být vytvořen programem DALL-E, což samozřejmě není jediný generátor obrázků na trhu. Podle údajů poskytnutých společností OpenAI se systému podařilo úspěšně klasifikovat pouze pět až deset procent obrázků vytvořených jinými modely umělé inteligence.

Detekční technologie se také dostává do potíží, když pracuje s obrázkem, který byl nějakým způsobem upraven. Problematické nebyly ani tak drobné úpravy jako ořez, komprese nebo změny sytosti (úspěšnost 95 procent), ale k velkým chybám v rozpoznávání došlo ve chvíli, kdy byl u obrázku upraven odstín (úspěšnost jen 82 procent).

Společnost OpenAI je alespoň transparentní, pokud jde o omezení její detekční technologie. Zároveň poskytuje externím testerům přístup k výše zmíněným nástrojům, aby pomohli tyto problémy odstranit, jak informoval deník The Wall Street Journal. Společnost spolu s Microsoftem vložila 2 miliony dolarů do iniciativy Societal Resilience Fund, která se bude snažit rozšíří vzdělávání a gramotnost v oblasti umělé inteligence.

Zdroj: www.engadget.com