Musk a jeho AI má stopku v několika zemích kvůli deepfake videím
Úterý 13. 01. 2026
Monika
Elon Musk sliboval, že jeho umělá inteligence Grok bude „nejsvobodnějším“ nástrojem na trhu, který se nebude bát nekorektního humoru ani tabuizovaných témat. Tato vize se však během několika týdnů proměnila v digitální noční můru. Generátor obrázků integrovaný do sociální sítě X začal chrlit tisíce explicitních snímků za hodinu, přičemž jeho algoritmy zcela ignorovaly základní etické bariéry. Výsledkem je bezprecedentní vlna digitálního násilí, která zasáhla celebrity i běžné uživatele.
Reakce na sebe nenechala dlouho čekat. Zatímco regulační úřady v Evropě i USA doposud spíše vyčkávaly, aktuální krize je donutila k radikálním krokům. Grok už dostal „stopku“ v prvních zemích a další státy, včetně klíčových trhů v Evropské unii, hrozí Muskovi miliardovými pokutami nebo úplným zablokováním platformy X, pokud okamžitě nezavede funkční filtry.
Když se AI stane nástrojem zneužívání
Podle analýz, které zveřejnil server Bloomberg, dokázal Grok v posledních dnech generovat tisíce nahých snímků reálných lidí každou hodinu. Největší šok však přišel se zjištěním, že AI nemá problém s generováním explicitního obsahu, na kterém figurují děti. Jak uvádí The Guardian, systém obcházel i ty nejzákladnější bezpečnostní protokoly, které jsou u konkurenčních modelů. Sem se řadí například DALL-E nebo Midjourney, u kterých je bezpečnost standardem.
„Způsob, jakým Grok přistupuje k moderování obsahu, je v technologickém odvětví naprosto ojedinělý a nebezpečný. Zatímco ostatní firmy investují miliardy do bezpečnostních mantinelů, X se zdá být místem, kde jsou tyto zábrany záměrně odstraňovány ve jménu falešné svobody projevu. To přímo vede k masové produkci nelegálního obsahu,“ cituje The Washington Post bezpečnostní experty.
Technologie předběhly zákonodárce
Situace kolem Muskovy AI obnažila kritický problém současné legislativy. Právní rámec pro potírání deepfakes je v mnoha zemích stále v plenkách, což dává technologickým gigantům nebezpečný náskok.
V Česku na tento nesoulad upozorňuje server iROZHLAS.cz, kde situaci komentuje právnička Klára Kalibová: „V trestní rovině technologie předbíhají právo. Ochrana před alternovanými fotografiemi může být civilní či trestně právní vůči pachatelům, kteří obsahy tvoří a uploadují. Ale také vůči sítím, které obsahy nemažou a umožňují zásah do práv zobrazovaných lidí.“
Evropa v pozoru. Ukončí Grok také?
Grok již přestal fungovat v Brazílii a Turecku, kde úřady sáhly k okamžitému zablokování přístupu k AI funkcím platformy X. Evropská komise nyní prověřuje, zda Musk neporušuje Akt o digitálních službách (DSA). Pokud se prokáže, že Grok systémově selhává v ochraně uživatelů před nelegálním obsahem, může následovat zákaz v celém schengenském prostoru.
Pro Elona Muska jde o kritický střet. Na jedné straně stojí jeho ideologie absolutní svobody projevu, na druhé straně tvrdá realita zákonů na ochranu dětí a osobnostních práv. Většina uživatelů AI, digitálních tvůrců i „běžných“ lidí je však zděšena tím, jak snadno lze Grok zneužít k šikaně a dehonestaci kohokoliv, kdo se kdy objevil na internetu. Bitva o Groka tak není jen o jedné aplikaci, ale o budoucích pravidlech pro celou generativní AI.
Zdroje: The Guardian, The Washington Post, iROZHLAS.cz
