AI představuje riziko zániku srovnatelné s jadernou válkou, tvrdí vedoucí představitelé technologického průmyslu
S nástupem ChatGPT, Barda a dalších velkých jazykových modelů (LLM) slýcháme od zainteresovaných osob, jako je Elon Musk, varování před riziky, která představuje umělá inteligence pro lidstvo. Nyní skupina vysoce postavených představitelů technologického průmyslu vydala prohlášení, které tyto obavy fakticky potvrzuje: „Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského rozsahu, jako jsou pandemie a jaderná válka.“
Prohlášení bylo zveřejněno na stránkách Centra pro bezpečnost umělé inteligence, organizace, jejímž posláním je právě snižování rizik umělé inteligence. Mezi signatáři je celá řada velkých jmen z odvětví umělé inteligence, včetně šéfa OpenAI Sama Altmana a šéfa Google DeepMind Demise Hassabise. Své jméno k ní připojili také vědci Geoffrey Hinton a Yoshua Bengio, kteří získali Turingovu cenu a jsou mnohými považováni za kmotry moderní umělé inteligence.
Jde přitom již o druhé takové prohlášení za posledních několik měsíců. V březnu Musk, Steve Wozniak a více než 1 000 dalších vyzvali k šestiměsíční pauze v oblasti AI (více v tomto článku).
Ačkoli si umělá inteligence (pravděpodobně) není vědoma sama sebe, již nyní představuje riziko zneužití prostřednictvím deepfakes, automatizovaných dezinformací apod. LLM by také mohla změnit způsob tvorby obsahu, umění a literatury, což by mohlo zlikvidovat řadu pracovních míst.
Současné prohlášení si klade za cíl především otevřít diskusi ohledně rizik pokročilé umělé inteligence a snaží se vytvořit obecné povědomí o možných nebezpečích.
Zdroj: engadget.com
