Google podpořil vznik databáze DeepFake videí, ze které se mohou učit systémy v jejich rozpoznávání

Dnešní internet může být díky umělé inteligenci velmi nebezpečné místo, tedy alespoň co se kvality informací týče. Díky možnostem úpravy a generování videa dnes není problém vygenerovat video, ve kterém někdo říká něco, co nikdy neřekl. V závislosti na kvalitě algoritmu a množství podkladového materiálu, může takové video vypadat velmi uvěřitelně. Takový materiál dostal od odborníků na počítačovou bezpečnost označení DeepFakes a je podle nich velkou hrozbou do budoucna.

Spolu s vývojem tohoto typu obsahu vyvíjí bezpečnostní experti nástroje, které umožní falešný původ videa odhalit, ideálně v reálném čase nebo ještě lépe před samotným spuštěním videa. Při vývoji těchto nástrojů se rozhodla pomoci také společnost Google, která za tímto účelem sestavila a uvolnila databázi 3000 Deep Fakes videí.

V databázi jsou videa, různé kvality a to jak ve smyslu kvality videa tak provedení samotného podvodu, vytvořená za pomocí různých nástrojů. Vývojáři je mají k dispozici, aby na nich mohli vyzkoušet schopnosti svých nástrojů, respektive aby se na nich mohly systémy samy učit.

Databáze s podporou Google vznikala na Technické univerzitě v Mnichově a na univerzitě v Neapoli Federico II. Pracovníci univerzit je samy vytvořili pomocí čtyř nejběžnějších manipulativních technik a jako zdroj jim posloužilo více než 1 000 videí ze serveru YouTube.

Kritici projektu se obávají, aby falešná videa, ke kterým je poměrně snadný přístup neposloužila jako nástroj šíření dezinformací.

Zdroj: bbc.com