USA a Velká Británie se spojily, aby testovaly bezpečnost AI modelů
OpenAI, Google, Anthropic a další společnosti vyvíjející generativní umělou inteligenci pokračují ve zdokonalování svých technologií a vydávají stále lepší a lepší velké jazykové modely. S cílem vytvořit jedinou instituci pro nezávislé hodnocení bezpečnosti těchto modelů, podepsaly vlády Spojeného království a USA tzv. Memorandum of Understanding (Memorandum o porozumění). Britský Institut pro bezpečnost umělé inteligence a jeho protějšek v USA, jehož vznik oznámila viceprezidentka Kamala Harris, ale který ještě nezačal fungovat, společně vytvoří soubory testů pro posouzení rizik a zajištění bezpečnosti nejpokročilejších modelů umělé inteligence současnosti.
V rámci partnerství plánují sdílet technické znalosti, informace, a dokonce i personál. Jedním z jejich počátečních cílů pravděpodobně bude provedení společného testování na veřejně přístupném modelu. Britská ministryně pro vědu Michelle Donelan, která dohodu podepsala, prozradila, že musí jednat opravdu rychle, protože v příštím roce očekávají příchod nové generace modelů umělé inteligence. Věří, že tyto modely by mohly „zcela změnit pravidla hry“ a prozatím můžeme jen hádat, čeho by mohly být schopny.
Podle deníku The Times je toto partnerství první bilaterální dohodou o bezpečnosti umělé inteligence na světě, ačkoli USA i Spojené království mají v úmyslu v budoucnu spolupracovat s dalšími zeměmi.
Kromě této společné snahy také jednotlivé vlády po celém světě vytvářejí předpisy, aby udržely nástroje umělé inteligence pod kontrolou. Například v březnu Bílý dům podepsal nařízení, jehož cílem je zajistit, aby federální úřady používaly pouze takové nástroje AI, které neohrožují práva a bezpečnost amerického lidu. A několik týdnů předtím schválil Evropský parlament rozsáhlou legislativu, která má regulovat umělou inteligenci.
Zdroj: engadget.com
