Amazon Web Services анонсировала чипы Trainium3 и систему UltraServer, обеспечивающую значительный прирост производительности и энергоэффективности для задач ИИ.
Amazon Web Services (AWS) представила третье поколение своих чипов Trainium, предназначенных для обучения моделей искусственного интеллекта (ИИ). Новый чип, известный как Trainium3, используется в системе UltraServer, которая обеспечивает более чем четырехкратное увеличение производительности и памяти по сравнению с предыдущим поколением. Кроме того, система UltraServer позволяет объединять тысячи серверов, обеспечивая доступ к 1 миллиону чипов Trainium3. AWS подчеркивает, что новое поколение чипов и систем на 40% более энергоэффективно, что важно для снижения затрат на электроэнергию в крупных дата-центрах. Уже сейчас клиенты AWS, такие как Anthropic и Decart, используют Trainium3 и отмечают значительное снижение затрат на inference. Кроме того, AWS анонсировала разработку следующего поколения чипов - Trainium4, который будет поддерживать технологию NVLink Fusion от Nvidia, позволяя системам на базе Trainium4 работать совместно с GPU Nvidia.
