Zaměstnanci FDA tvrdí, že generativní umělá inteligence Elsa výrazně halucinuje

Sobota 26. 07. 2025 Samuel

Nástroj generativní umělé inteligence Elsa, který FDA (Úřad pro kontrolu potravin a léčiv) představila minulý měsíc, podle současných i bývalých zaměstnanců agentury halucinuje neexistující studie a zkresluje skutečný výzkum. Tři informátoři CNN uvedli, že Elsa často vytváří nepravdivé informace, které je obtížné ověřit. Jeden ze zdrojů poznamenal: „Halucinuje sebevědomě,“ což není ideální pro systém, jenž má zrychlit klinické hodnocení a pomoci přijímat informovaná rozhodnutí ve prospěch pacientů.

Vedení FDA však potenciální problémy nepovažuje za závažné. Komisař FDA Marty Makary řekl CNN, že o těchto stížnostech neslyšel, a zdůraznil, že používání Elsy a školení k ní jsou v agentuře momentálně dobrovolné.

Vyšetřování CNN, které odhalilo tyto nedostatky, vyšlo současně se zveřejněním Akčního plánu pro umělou inteligenci Bílého domu. Plán zdůrazňuje technologický závod USA ve zbrojení v oblasti AI a stanovuje cíle odstranit byrokracii a přísné regulace. Dále požaduje, aby umělá inteligence byla prostá ideologických předsudků, tj. odstranila zmínky o klimatických změnách, dezinformacích a snahách o diverzitu, rovnost a inkluzi. Jelikož jsou tato témata klíčová pro veřejné zdraví, ohrožuje tato politika schopnost nástrojů jako Elsa skutečně pomáhat FDA i americkým pacientům.

Zdroj: engadget.com