AI může představovat vážné riziko pro lidstvo, odborníci na AI požadují pozastavení vývoje
Otevřený dopis podepsaný vedoucími představiteli technologického průmyslu a významnými výzkumníky v oblasti umělé inteligence vyzval laboratoře a společnosti zabývající se umělou inteligencí, aby okamžitě pozastavily veškeré své práce. Signatáři, mezi nimiž jsou Steve Wozniak či Elon Musk, se shodli na tom, že kvůli vysokým rizikům spojeným s rozvojem AI je potřeba vyhlásit minimálně šestiměsíční přestávku v produkci technologií vyšších než GPT-4, aby bylo možné zajistit, že stávající systémy umělé inteligence budou pro všechny přínosem, a nikoli nebezpečím. V dopise se mimo jiné uvádí, že pro zajištění bezpečnosti je zapotřebí pečlivosti a promyšlenosti, které jsou podle signatářů ignorovány.
GPT-4 je model společnosti OpenAI, který dokáže reagovat textem na psané nebo vizuální zprávy. Přichází v době, kdy se společnosti předhánějí v budování komplexních chatovacích systémů, které tuto technologii využívají. Například společnost Microsoft nedávno potvrdila, že její modernizovaný vyhledávač Bing je již více než sedm týdnů poháněn právě modelem GPT-4, zatímco společnost Google nedávno debutovala s vlastním generativním systémem umělé inteligence Bard, který je poháněn systémem LaMDA.
Neklid okolo AI panuje již dlouho, nicméně současný závod o to, kdo nasadí nejpokročilejší technologii AI jako první, vyvolává mnohem naléhavější obavy. „Bohužel k plánování a řízení AI nedochází, přestože v posledních měsících se AI laboratoře ocitly v nekontrolovatelném závodě o vývoj a nasazení stále výkonnějších digitálních myslí, kterým nikdo – ani jejich tvůrci – nedokáže porozumět, předvídat je nebo je spolehlivě kontrolovat,“ uvádí se v dopise.
Znepokojivý dopis zveřejnila organizace Future of Life Institute (FLI), která se zabývá minimalizací rizik a zneužití nových technologií. Kromě Muska a Wozniaka je mezi signatáři řada světových lídrů v oblasti umělé inteligence například prezident Centra pro umělou inteligenci a digitální politiku Marc Rotenberg, fyzik z MIT a prezident Future of Life Institute Max Tegmark či spisovatel Yuval Noah Harari.
Zdroj: engadget.com
