Amazon tvrdí, že jeho čipy nové generace jsou čtyřikrát rychlejší pro trénink AI
Společnost Amazon Web Services (AWS) právě zahájila svou konferenci re:Invent v Las Vegas. Většina oznámení se přitom (nepřekvapivě) týká nejpopulárnější technologie letošního roku – umělé inteligence.
AWS představila zejména nejnovější generaci čipů určených pro trénování AI modelů a pro spouštění natrénovaných modelů. Trainium2, které je zjevně určeno pro trénování modelů, bylo navrženo tak, aby ve srovnání se svým předchůdcem poskytovalo až 4x vyšší výkon a 2x vyšší energetickou účinnost. Amazon slibuje, že tyto čipy umožní programátorům trénovat modely rychle a s nižšími náklady díky snížení spotřeby energie. Anthropic, konkurent OpenAI podporovaný společností Amazon, již oznámil plány na vytváření modelů pomocí čipů Trainium2.
Naproti tomu Graviton4 je určen spíše pro obecné použití. Tyto procesory jsou založeny na architektuře Arm, ale spotřebovávají méně energie než čipy Intel nebo AMD. Amazon slibuje zvýšení obecného výkonu o 30 % při použití vyškoleného modelu umělé inteligence zabudovaného v procesoru Graviton4. To by mělo snížit náklady na cloudové výpočty pro společnosti, které pravidelně využívají modely AI, a nabídnout mírné zvýšení rychlosti pro běžné uživatele.
Společnost Amazon rovněž oznámila nového AI chatbota zaměřeného na obchod s názvem Q. Je popisován jako nový typ generativního osobního asistenta s umělou inteligencí a je speciálně navržen tak, aby pomáhal zefektivnit pracovní projekty a úkoly zákaznického servisu. Lze jej přizpůsobit na míru jakémukoli podniku a nabízí relevantní odpovědi na běžně kladené otázky. Amazon Q dokáže také sám generovat obsah a provádět akce na základě požadavků zákazníků. Dokonce přizpůsobí interakce na základě role uživatele ve firmě.
Bude nasazen v komunikačních aplikacích, jako je Slack, a v aplikacích pro úpravu textu, které běžně používají vývojáři softwaru. Za tímto účelem může Q skutečně měnit zdrojový kód a umí se připojit k více než 40 podnikovým systémům, mimo jiné k Microsoft 365, Dropboxu, Salesforce a Zendesku.
Zdroj: engadget.com
