Foto: Unsplash

Biden vyzval Američany, aby navrhli pravidla pro kontrolu modelů umělé inteligence

Američtí úředníci podnikají další kroky k nastavení pravidel pro systémy umělé inteligence, jako je ChatGPT. Národní úřad pro telekomunikace a informace (NTIA) žádá veřejnost o připomínky k možným předpisům, které by tvůrce AI donutili k odpovědnosti. Opatření v ideálním případě pomohou Bidenově administrativě zajistit, aby tyto modely fungovaly tak, jak bylo slíbeno, tedy, aby podle NTIA nezpůsobovaly žádné škody.

Přestože tento požadavek není nijak limitován, NTIA navrhuje, aby se předložené příspěvky týkaly oblastí, mezi něž patří například důvěryhodnost umělé inteligence či metody testování bezpečnosti. Agentura se také zajímá o to, zda by pro některé oblasti, jako je například zdravotnictví, mělo být nutné nastolit odlišné strategie.

Připomínky k opatřením týkajícím se odpovědnosti AI mohou Američané podávat do 10. června. NTIA považuje tvorbu pravidel za potenciálně zásadní. Podle dozorčího orgánu totiž již dochází k rostoucímu počtu incidentů, kdy umělá inteligence způsobila škody. Pravidla by mohla nejen zabránit opakování těchto případů, ale také minimalizovat rizika plynoucí z hrozeb, které mohou být pouze teoretické.

ChatGPT a podobné generativní AI modely již byly spojeny s úniky citlivých údajů a porušováním autorských práv a vyvolaly obavy z automatizovaných dezinformačních a malwarových kampaní. Existují také základní obavy ohledně přesnosti a zkreslení. Zatímco vývojáři tyto problémy řeší pomocí pokročilejších systémů, vědci a vedoucí představitelé v oblasti technologií jsou natolik znepokojeni, že vyzvali k šestiměsíční pauze ve vývoji AI, aby se zvýšila bezpečnost a vyřešily etické otázky.

Bidenova administrativa nezaujala definitivní stanovisko k rizikům spojeným s umělou inteligencí. Prezident Biden o tomto tématu minulý týden diskutoval s poradci, ale řekl, že je příliš brzy na to činit závěry, zda je tato technologie nebezpečná.

Zdroj: engadget.com