Vědci tajně experimentovali na uživatelích Redditu s komentáři generovanými pomocí AI
Skupina výzkumníků z Curyšské univerzity bez vědomí uživatelů několik měsíců tajně experimentovala s umělou inteligencí v jedné z nejpopulárnějších komunit na Redditu s využitím komentářů generovaných umělou inteligencí, aby otestovala přesvědčivost velkých jazykových modelů. Podle moderátorů Redditu šlo o neoprávněnou psychologickou manipulaci. Výzkumníci zakládali účty botů pod různými identitami – například jako přeživší sexuálního napadení, terapeutka specializující se na zneužívání či černošský odpůrce hnutí Black Lives Matter – a vkládali do diskuzí komentáře generované pomocí AI.
Podle dostupných informací byly LLM při tvorbě odpovědí personalizovány údaji o původních diskutujících – pohlaví, věk, místo pobytu či politická orientace jim byly přisuzovány na základě předchozích redditových příspěvků. Mnoho původních komentářů bylo následně smazáno, část se však zachovala.
Moderátoři Redditu upozornili, že tento postup porušil několik pravidel subredditu – zejména povinnost označit AI-generované příspěvky a zákaz botů – a podali oficiální stížnost univerzitě a požadují nepublikovat výsledky. Reddit mezitím zablokoval všechny účty spojené s výzkumem, posiluje detekci neautentického obsahu a zvažuje další právní kroky vůči univerzitě.
Výzkumníci se hájí se slovy, že jejich projekt schválila univerzitní etická komise a že zkoumali možnosti, jež by mohly pomoci chránit online komunity před zneužitím AI k nebezpečnějším účelům, jako jsou volební manipulace či šíření nenávistných postojů. Společné prohlášení univerzity však přiznává, že doporučení etické komise nemají právní závaznost, a plánuje zpřísnění procesu schvalování, včetně koordinace s moderátory platforem před zahájením studií. Výzkumníci nakonec sami oznámili, že výsledky nezveřejní. Moderátoři podotýkají, že podobné analýzy již prováděli interní výzkumníci OpenAI bez náhodného experimentování na lidech.
Zdroj: engadget.com
