Foto: Reuters

Kmotr umělé inteligence opustil Google a varuje před nebezpečím AI

Jeden z průkopníků umělé inteligence se rozhodl pro odchod z vysoké pozice. Geoffrey Hinton, kterému se přezdívá kmotr umělé inteligence, prozradil deníku New York Times, že v dubnu rezignoval na funkci viceprezidenta a inženýra společnosti Google, aby mohl svobodně varovat před riziky spojenými s umělou inteligencí. Hinton se obává, že Google ve snaze konkurovat ChatGPT, Bing Chat a podobným AI modelům upouští od své dosavadní obezřetnosti při začleňování AI do svých služeb, čímž otevírá dveře řadě etických problémů.

Hinton se obává, že generativní AI může v blízké budoucnosti vést k vlně dezinformací. Podle jeho slovy by se mohlo stát, že už nebudeme schopni poznat, co je pravda a co lež. Obává se také, že AI by mohla nahradit některá pracovní místa. Do budoucna Hinton varuje také před vznikem plně autonomních zbraní či tendenci AI modelů učit se podivnému chování na základě tréninkových dat. I když jsou některé z těchto problémů teoretické, Hinton se obává eskalace, kterou nebude možné kontrolovat bez regulace nebo vývoje účinných kontrolních mechanismů.

Hinton prozradil, že jeho postoj se začal měnit v loňském roce, kdy společnosti Google, OpenAI a další začaly vytvářet systémy umělé inteligence, které jsou podle něj někdy lepší než lidská inteligence. „Umělá inteligence se za posledních pět let vyvinula nečekaně rychle a je děsivé, co se může stát v příštích pěti letech,“ uvedl.

Hinton zasvětil svou kariéru studiu neuronových sítí, které jsou klíčem k umělé inteligenci, ale je známý především tím, že v roce 2012 vyvinul systém pro rozpoznávání objektů. Jeho průlomová neuronová síť dokázala pomocí tréninkových obrázků rozpoznávat běžné předměty. Společnost Google koupila Hintonův startup DNNresearch v roce 2013 a základní koncept jeho vynálezu pomohl podpořit prudký rozvoj, který vedl k dnešní generativní technologii. Hintonovo slovo v tomto odvětví má značnou váhu.

Zdroj: engadget.com