本网讯12 月3 日亚马逊AWS宣布其新一代自研AI芯片Trainium3正式上市。作为亚马逊首款采用3nm 工艺的芯片,Trainium3 在计算性能、能效和内存带宽方面均实现了显着提升。
相比上一代,Trainium3计算性能最高提升4.4倍,能效提升4倍,内存带宽也接近翻两番。基于Trainium3构建的UltraServer系统支持互联扩展。单系统可容纳144颗芯片,为单一应用提供高达100万颗Trainium3芯片的算力支持,达到上一代规模的10倍。
亚马逊表示,与使用图形处理单元(GPU) 的系统相比,使用Trainium3 训练和运行AI 模型的成本最多可降低50%。
此外,亚马逊已经开始开发其下一代产品Trainium 4。据披露,Trainium4预计将带来6倍的FP4计算性能、3倍的FP8性能,内存带宽和容量分别提升至4倍与2倍,并支持通过NVLink Fusion和UALink实现纵向扩展。关于与行业领导者NVIDIA的关系,AWS副总裁兼负责Trainium项目的首席架构师Ron Diamant明确表示:“我不认为我们会尝试取代NVIDIA。”