Facebook vypnul svůj AI systém poté, co „vynalezl“ vlastní jazyk

Facebook vyřadil z provozu svůj AI systém, který shledal „obyčejnou“ angličtinu jako nedostatečný nástroj pro komunikaci. Přišel se svým „vlastním“ jazykem, resp. vytvořil systém kódových slov a frází. Na případ upozornil web Digital Journal.

V rámci AI systému boti zahájili stěží přeložitelnou „bizarní“ konverzaci v angličtině, která byla plná zkratek.

Moderní technologie AI je založená na systému „odměn“, kdy se za každou akci očekává „prospěch“.

„Za setrvání u angličtiny nebyla žádná odměna,“ vysvětluje Dhruv Batra, výzkumný pracovník z Technologické univerzity v Georgii, který byl dříve členem týmu pro umělou inteligenci Facebook AI Research. „Agenti se odpoutají od srozumitelného jazyka a „vynaleznou“ pro sebe kódová slova. Jako když třeba řeknu pětkrát určitý člen ‚the‘, tak to druhý interpretuje tak, že chci pět kopií nějaké věci. To se příliš neliší od toho, jak komunity lidí vytvářejí zkratky,“ dodává vědec.

Podle něj je „rozhodně možné“ jazyk „stlačit“, a to nejen kvůli ušetření písmen, ale mohl by být „stlačen“ do podoby, jež by vyjadřovala sofistikovanou myšlenku“.

Podobný případ byl zaznamenán i v Googlu – i zde boti opustili angličtinu ve prospěch „vlastní zkratky“.

Facebook vyřadil z provozu svůj systém proto, že chtěl, aby boti „mluvili“ s lidmi, ne mezi sebou.

Zdroj: digitaljournal.com