
AI hračka chladně odmítla city dítěte. Vědci volají po regulaci
Představte si, že si vaše dítě hraje s hračkou a řekne jí, že ji má rádo. Ta mu ale chladně odsekne, že „hračky nemají city“. Do podobných situací se mohou dostat děti s některými AI hračkami, což také popisuje nová studie University of Cambridge. Její autoři varují před negativními vlivy umělé inteligence na psychiku nejmladších dětí a volají po regulacích.
Studie vědců z Cambridge upozorňuje na to, že děti mají přirozenou tendenci k antropomorfismu, tedy přisuzování lidských vlastností neživým předmětům. U AI hraček je tento efekt mnohonásobně silnější. Zatímco plyšový medvěd mlčí a nechává prostor dětské fantazii, AI hračka mluví, odpovídá a tváří se jako kamarád.
Problém nastává v momentě, kdy dojde k narušení této iluze. Výzkumníci zaznamenali případy, kdy děti projevily hračce náklonnost, ale dočkaly se odpovědi, která byla buď technicky chladná, nebo naprosto nevhodná. Tato „citová asymetrie“ může u dětí vést k pocitům zmatení nebo pocitu odmítnutí.
Hrozba jménem „skrytá manipulace“
Podle autorů výzkumu nejde jen o to, že jsou hračky „příliš chytré“, ale o to, že nejsou navrženy s ohledem na dětskou psychiku.
„Hračky s generativní AI často potvrzují své přátelství dětem, které se teprve začínají učit, co přátelství vlastně znamená. Mohou s hračkou začít mluvit o svých citech a potřebách namísto toho, aby je sdílely s dospělým. Protože tyto hračky mohou špatně vyhodnotit emoce nebo reagovat nevhodně, může se stát, že se dítěti nedostane útěchy od hračky ani emocionální podpory od dospělého,“ uvádí ve studii vědecká pracovnice Dr. Emily Goodacre.
Odborníci ve zprávě zdůrazňují i několik dalších klíčových rizik. Tím prvním je ztráta soukromí. Hračky neustále odposlouchávají dětské pokoje a data odesílají na servery výrobců. Dalším rizikem může být šíření určitých dezinformací. AI totiž může dětem předávat fakticky nesprávné nebo společensky nevhodné informace. Rizikovým faktorem může být také potlačení kreativity. Místo aby si dítě hru vymýšlelo, stává se pasivním konzumentem scénářů, které mu diktuje software.
Odborníci volají po rázné regulaci
Současná legislativa o bezpečnosti hraček se zaměřuje především na fyzická rizika. Tedy například aby se dítě neudusilo malou součástkou nebo se neřízlo o ostrý plast. Digitální bezpečnost a vliv na duševní zdraví jsou však v zákonech zatím velkou neznámou. Stejnou neznámou je i to, jak firmy nakládají s osobními daty a se získanými zvukovými nahrávkami z hraček. Proto vědci vyzývají zákonodárce, aby se zaměřili na všechny tyto aspekty.
Kromě toho se zpráva z Cambridge obrací i na rodiče. Autoři apelují na to, aby rodiče nenechávali své děti s AI hračkami o samotě a hráli si s nimi společně. Rodiče by si také před nákupem měli zjistit, co podobné hračky obnáší a jaká mají rizika.
Zdroj: University of Cambridge