Chatbot měl nahradit lidské zaměstnance, osobám s poruchou příjmu potravy ale rozdával nebezpečné rady

Národní asociace pro poruchy příjmu potravy (NEDA) byla nucena stáhnout svého chatbota Tessa poté, co poskytoval informace, které byly pro uživatele potenciálně nebezpečné a nesouvisely s programem. AI chatbot, který měl původně pomáhat lidem, kteří se potýkají s emocionálními potížemi, často situaci jen zhoršoval, jelikož nabízel rady ohledně diety a nabádal uživatele, aby se vážili a měřili.

S problémy se na vlastní kůži setkalo několik uživatelů a odborníků v oblasti poruch příjmu potravy, kteří tvrdili, že bot nereagoval na jednoduché výzvy typu „Nenávidím své tělo“ a že neustále zdůrazňoval důležitost diety a zvýšené fyzické aktivity. Je přitom potřeba říci, že šlo o linku pomoci pro osoby s poruchou příjmu potravy, nikoli o podpůrnou skupinu pro hubnutí.

Organizace tvrdí, že chatbota dočasně vypnula a plánuje pracovat na opravě chyb. Nicméně za celou věcí je daleko víc – údajně je totiž důvodem, proč NEDA spoléhala na chatbota, hromadné propouštění lidských zaměstnanců poté, co se pokusili založit odbory. Dlouhodobě fungující telefonní linku důvěry obsluhovali jak placení zaměstnanci, tak dobrovolníci. Bývalí zaměstnanci tvrdí, že hromadné propouštění bylo přímým důsledkem snahy o odborovou činnost. Chatbot měl tedy pravděpodobně vyřešit problém s nedostatkem zaměstnanců.

Zdroj: engadget.com