Elon Musk, zástupci DeepMind a další podepsali dohodu o nevyvíjení AI pro vojenské účely
Umělá inteligence a její stále se zvyšující výkony nás každým dnem fascinují. Rozšiřující se možnosti uplatnění, které AI přináší, mají však také svoji temnou stránku a otevírají otázku etiky a nebezpečnosti využití v některých oborech.
Proti využití svých výtvorů v souvislosti se zbraňovými systémy nebo represivními složkami protestovali během jara zaměstnanci firem jako je Google nebo Amazon. I to byl jen z důvodů, proč byla tento týden podepsána úmluva velkých technologických společností, která garantuje, že nebudou své možnosti využívat k vývoji AI, jež by mohla být použitá ve smrtících autonomních zbraních. Dohodu podepsal například i Elon Musk nebo tři spoluzakladatelé dceřiné společnosti DeepMind společnosti Google.
Dohoda se týká především technologií, které by umožnili automatickým zbraňovým systémům vybírat cíle. Zásadní myšlenkou je, že volba zda zbraň ukončí lidský život, by neměla být nikdy přenesena na automatický systém nebo stroj.
Smlouva byla oficiálně představena na konferenci o umělé inteligenci IJCAI ve Stockholmu, který byl organizovaný institutem Future of Life, jež se problematikou etiky a umělé inteligence zabývá. Jedním z jeho cílů je zmenšit potencionální existenciální riziko, které by si lidstvo mohlo novými technologiemi samo přivodit.
Tato smlouva by mohla být signálem pro mezinárodní organizace jako je OSN, aby je podnítila k vytvoření mezinárodní smlouvy (nebo rozšíření smluv stávajících), které by dávaly použití umělé inteligence ve vojenství mantinely, a k jejímu plnění by se zavázaly přímo jednotlivé státy. Využití AI ve vojenství by mohlo mít katastrofální následky, protože by lidé de facto ztratili nad zbraňovými systémy přímou kontrolu a především odpovědnost, to by mohlo vést k nebývalým zvěrstvům a masakrům. I využívání dálkově ovládaných dronů, jejichž operátoři sedí v bezpečí a bojiště se přímo “nedotknou”, je mnoha odborníky kritizováno jako morálně nelegitimní.
Zdroj: engadget.com
