Rodiče použili umělou inteligenci k oživení hlasů svých zastřelených dětí, snaží se o zpřísnění zákona o držení střelných zbraní

Manuel a Patricia Oliverovi, jejichž sedmnáctiletý syn Joaquin Oliver byl v roce 2018 zabit při střelbě na střední škole na Floridě, spustili kontroverzní projekt The Shotline. Ten využívá umělou inteligenci k reprodukci hlasů dětských obětí násilně zabitých střelnými zbraněmi a vyzývá zákonodárce k přijetí přísnějších zákonů o držení střelných zbraní.

Projekt byl spuštěn ve středu, tedy přesně šest let poté, co střelec na střední škole v Parklandu na Floridě zabil 17 lidí a více než 12 jich zranil. Zaznívá v něm hlas šesti dětí, z nichž některým bylo pouhých deset let, a dospívajících, kteří přišli o život při násilných incidentech, jež byly spáchány střelnými zbraněmi po celých USA.

Projekt obyvatelům USA umožňuje zadat své poštovní směrovací číslo, na základě něhož systém vytočí číslo místního státního zástupce, kterému zavolá hlasem některé z obětí. „Dnes jsem zpět, protože moji rodiče použili umělou inteligenci, aby znovu vytvořili můj hlas a zavolali vám,“ tvrdí umělou inteligencí vygenerovaný hlas Joaquina Olivera, jednoho z teenagerů zabitých při střelbě v Parklandu. „Budou volat i další oběti jako já.“

„Je to problém Spojených států a my jsme ho nedokázali vyřešit,“ prozradil deníku Oliverův otec Manuel, který projekt založil spolu se svou ženou Patricií. „Pokud k jeho nápravě potřebujeme použít děsivé věci, uděláme to.“

K obnovení hlasů použili Oliverovi službu klonování hlasu od ElevenLabs, dva roky starého startupu. Software dokáže na základě několika minut hlasových vzorků vytvořit hlasy ve více než dvou desítkách jazyků. Manželé Oliverovi údajně použili pro hlasové vzorky příspěvky svého syna na sociálních sítích. Rodiče a zákonní zástupci obětí násilných činů spáchaných střelnou zbraní mohou vyplnit formulář a zaslat hlasy svých dětí společnosti The Shotline, jež je přidá do projektu.

Projekt vyvolává etické otázky týkající se používání umělé inteligence ke generování deepfakes hlasů patřících mrtvým lidem. Minulý týden Federální komise pro komunikace prohlásila, že robotické hovory uskutečněné pomocí hlasů generovaných umělou inteligencí jsou nezákonné.

Zdroj: engadget.com