Společnost DARPA vyvíjí AI schopnou vysvětlit své vlastní rozhodnutí

Umělá inteligence je tak trochu dvojsečnou zbraní. Ačkoliv do ní vkládáme veliké naděje co se týče nových objevů a technologických inovací, dokáže být v zásadě hloupá. Je pravda, že její matematické, logické nebo kombinatorické schopnosti mnohonásobně převyšují schopnosti nejlepších počtářů. Veškeré kroky které AI dělá, však vytváří za pomocí algoritmů a i když často v souvislosti s umělou inteligencí mluvíme o učení, jedná se spíše o vytváření databáze poznatků než o skutečné pochopení.

Agentura DARPA, vyvíjecí nové technologie pro americkou armádu vydala v nedávné době studii, podle níž by bylo možné vylepšit a zefektivnit možnosti umělé inteligence díky přidání systému, který bude zpětně hodnotit kroky, které AI vykonalo. Pokud například systém pozná kočku na základě obrázků, dokáže si potom zpětně vyhodnotit, že kočku lze identifikovat nejen na základě obrazové podobnosti, ale také toho, že má čumáček, tlapky, fousky atd. A tyto znalosti potom zpětně opět využít. S trochou nadsázky by se dalo říci, že systém bude o svém rozhodování více přemýšlet.

To by mohlo, kromě nových možností využití také výrazně zvýšit efektivitu, respektive rychlost. Nová změna, by podle inženýrů z agentury DARPA mohla přinést takový přínos, že bychom mohli mluvit o umělé inteligenci třetí generace. Pokud se nový koncept ukáže jako smysluplný, mohli bychom se umělé inteligence založené na nové struktuře dočkat v horizontu několika let. DARPA jej sama bude využívat, avšak je nepravděpodobné, že by jej právě ona dodala na komerční trh.

Zdroj: engadget.com