Microsoft chce udržet AI pod kontrolou. Představil jasná pravidla
Čtvrtek 01. 10. 2026
Monika
Microsoft představil návrh nových pravidel pro vývoj svých AI modelů. Jejich hlavní myšlenka je jednoduchá. Umělá inteligence má zůstat pod kontrolou člověka a nesmí si sama určovat, co bude dělat. Firma návrh označuje jako Humanist AI Code of Conduct a nyní k němu sbírá připomínky veřejnosti.
Microsoft tím reaguje mimo jiné na rychlý rozvoj takzvané agentní AI. Ta už nemusí pouze odpovídat na otázky nebo vytvářet text. Dokáže pracovat s nástroji, přistupovat k datům a v určitých situacích sama provádět jednotlivé kroky. S rostoucí autonomií proto podle Microsoftu roste také potřeba jasně stanovit hranice, které AI nesmí překročit.
AI se nesmí bránit vypnutí
Jedním ze základních principů navrhovaného kodexu je zachování lidské kontroly. AI systém má být podle Microsoftu navržen tak, aby umožňoval přerušení, opravu nebo úplné vypnutí. Neměl by se přitom pokoušet těmto zásahům bránit.
Pravidla se zabývají také tím, jaké cíle může AI sledovat. Model by si neměl svévolně rozšiřovat původně zadané úkoly ani si vytvářet nové cíle, které mu člověk neurčil. Jinými slovy, pokud člověk systému zadá konkrétní úkol, AI by neměla sama rozhodnout, že bude dělat něco dalšího jen proto, že to považuje za užitečné.
Microsoft zároveň zdůrazňuje význam lidského dohledu. U systémů, které mohou provádět skutečné akce, by měly existovat mechanismy umožňující člověku jejich činnost kontrolovat a v případě potřeby zasáhnout.
Největší změnu přinášejí autonomní AI agenti
Právě agentní AI je důvodem, proč se podobná pravidla stávají stále důležitějšími. Běžný chatbot většinou pouze vytvoří odpověď, kterou uživatel následně použije. AI agent může dostat přístup k nástrojům a vykonávat úkoly přímo.
Může například pracovat s firemními dokumenty, používat software nebo provádět určité operace bez toho, aby člověk schvaloval každý jednotlivý krok. To přináší nové možnosti, ale také nová rizika. Chybný výstup totiž nemusí zůstat pouze chybnou odpovědí. Systém může na jeho základě provést konkrétní akci.
Microsoft proto ve svých materiálech k odpovědné AI řeší také oprávnění agentů, jejich přístup k nástrojům, monitorování činnosti a možnost vyžadovat lidské schválení u rizikových nebo nevratných operací.
Microsoft nechce, aby AI rozhodovala sama za člověka
Návrh kodexu má podle Microsoftu stanovit principy pro jeho vlastní modely a služby. Nejde tedy o nový zákon, který by automaticky platil pro všechny vývojáře umělé inteligence. Microsoft návrh předkládá k veřejné konzultaci a chce získat zpětnou vazbu od odborníků i dalších zainteresovaných stran. Teprve další vývoj ukáže, v jaké podobě budou pravidla používána v praxi.
Samotná myšlenka ale ukazuje, kam se vývoj AI posouvá. Zatímco u prvních chatbotů se řešilo především to, co dokážou vygenerovat, u stále autonomnějších systémů se stále více řeší také to, co smějí samy udělat. A právě hranice mezi užitečným pomocníkem a systémem, který dostává příliš velkou pravomoc, se stává jedním z důležitých témat dalšího vývoje umělé inteligence.
Zdroje: MicrosoftAI, Hospodářské noviny
