Foto: Unsplash

Slack bez svolení používá uživatelská data k trénování modelů strojového učení

Slack trénuje modely strojového učení na uživatelských zprávách, souborech a dalším obsahu bez výslovného svolení. Velmi nepříjemné přitom je, že pokud s tímto jako uživatel služby nebudete souhlasit, bude zapotřebí požádat správce služby Slack ve vaší firmě, kde pracujete, aby poslal společnosti e-mail a požádal ji o zastavení. Sami to tedy udělat nemůžete.

Corey Quinn, vedoucí pracovník společnosti DuckBill Group, si této novinky všiml v poznámce v Zásadách ochrany osobních údajů společnosti Slack a zveřejnil ji na webu X. Píše se v ní mimo jiné: „Za účelem vývoje modelů AI/ML naše systémy analyzují údaje zákazníků (např. zprávy, obsah a soubory) odeslané do služby Slack, jakož i další informace (včetně informací o používání), jak jsou definovány v našich zásadách ochrany osobních údajů a ve vaší zákaznické smlouvě.“

V reakci na obavy z této praxe zveřejnila společnost Slack v pátek večer na svém blogu příspěvek, v němž objasnila, jakým způsobem využívá údaje svých zákazníků. Podle společnosti se data zákazníků nepoužívají k trénování žádného z produktů generativní umělé inteligence společnosti Slack (v tomto ohledu se spoléhá na LLM třetích stran), ale jsou dodávána do jejích modelů strojového učení pro produkty, jako je doporučování kanálů a emoji a výsledky vyhledávání. Mluvčí společnosti Salesforce také uvedl, že tyto modely nejsou trénovány za účelem, aby se mohly učit, pamatovat si nebo reprodukovat údaje o uživatelích.

Není jasné, jak je to dlouho, co společnost vlastněná Salesforce tuto novinku do svých podmínek propašovala. Řada z formulací je přitom více než zavádějící (např. informace, že zákazníci se mohou odhlásit, přestože běžní uživatelé to udělat nemohou, jelikož toto „privilegium“ má pouze správce ve firmě).

Mezi další nesrovnalosti v zásadách ochrany osobních údajů společnosti Slack přispívá tvrzení: „Při vývoji modelů Al/ML nebo jiné analýze zákaznických dat nemá Slack přístup k základnímu obsahu. Máme různá technická opatření, která tomu brání.“ Zásady pro trénování modelů strojového učení jsou však zdánlivě v rozporu s tímto tvrzením.

Na webové stránce společnosti Slack propagující její prémiové nástroje generativní umělé inteligence se navíc píše: „Pracujte bez obav. Vaše data jsou vaše data. Nepoužíváme je k trénování Slack AI. Vše běží na zabezpečené infrastruktuře společnosti Slack, která splňuje stejné standardy shody s předpisy jako samotný Slack.“ Nicméně v tomto případě společnost hovoří o svých prémiových nástrojích generativní umělé inteligence oddělených od modelů strojového učení, které trénuje bez výslovného povolení.

Zdroj: engadget.com