Společnost Palantir předvádí umělou inteligenci, která je nasazena v boji

Společnost Palantir již prodává své služby americkému imigračnímu a celnímu úřadu, takže by nemělo být překvapením, že se společnost založená miliardářem Peterem Thielem snaží proniknout i do Pentagonu. V úterý společnost zveřejnila videoukázku své nejnovější nabídky, Palantir Artificial Intelligence Platform (AIP). Ačkoli samotný systém je určen k integraci velkých jazykových modelů (LLM), jako je GPT-4 od OpenAI nebo BERT od Googlu, společnost je rozhodla jej aplikovat na moderní bojiště.

V uvedené videoukázce (na konci tohoto článku) armádní operátor, který má za úkol monitorovat východoevropské bojiště, objeví nepřátelské síly hromadící se poblíž hranic a reaguje tak, že požádá digitálního asistenta podobného ChatGPT o pomoc s nasazením průzkumných dronů, vymýšlením taktických reakcí na vnímanou agresi, a dokonce zorganizuje rušení komunikace nepřítele. AIP pomáhá odhadnout složení a schopnosti nepřítele tak, že v reakci na žádost operátora o lepší snímky vypustí na průzkumnou misi dron Reaper a navrhne vhodné reakce vzhledem k odhalení obrněného prvku.

„LLM a algoritmy musí být v tomto vysoce regulovaném a citlivém kontextu kontrolovány, aby bylo zajištěno, že jsou používány legálním a etickým způsobem,“ objevuje se v úvodu videa. Aby byla tato podmínka dodržena, je činnost AIP založena na třech klíčových pilířích, z nichž první spočívá v tom, že AIP bude nasazen v utajovaném systému, který bude schopen v reálném čase analyzovat utajovaná i neutajovaná data, a to eticky a legálně. Společnost nicméně neupřesnila, jak to bude fungovat. Druhým pilířem je, že uživatelé budou moci přepínat rozsah a akce každého LLM a aktiva v síti. Samotný AIP bude vytvářet digitální záznam celé operace, což je podle ukázky klíčové pro zmírnění významných právních, regulačních a etických rizik v citlivých a utajovaných prostředích. Třetím pilířem jsou špičkové ochranné prvky AIP, které zabrání systému v provádění neoprávněných akcí.

Ve scénáři společnosti Palantir navíc existuje člověk, který bude mít vždy právo veta, nicméně z videa se zdá, že operátor nedělá nic víc, než že potvrzuje vše, co AIP navrhne. Vzniká tak velké nebezpečí přesunu zodpovědnosti z člověka na stroj.

Zdroj: engadget.com