亚马逊云科技推出新一代AI训练芯片Amazon Trainium3
(全球TMT2024年12月5日讯)亚马逊云科技在2024 re:Invent全球大会上,宣布基于Amazon Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2实例正式可用,并推出全新的Amazon EC2 Trn2 UltraServers,让用户以优越的性价比训练和部署最新的人工智能模型,以及未来的大语言模型(LLM)和基础模型(FM)。
与当前基于GPU的EC2实例相比,Amazon EC2 Trn2的性价比提升30%至40%。单个Trn2实例集成了16个Trainium2 芯片,通过NeuronLink超速高带宽、低延迟的芯片之间的互联,可提供高达20.8 Petaflops浮点算力,非常适合训练和部署数十亿参数的模型。Amazon EC2 Trn2 UltraServers使客户能够突破单个Trn2实例的限制进行扩展,从而减少训练时间,加快投放市场的速度,实现快速迭代以提高模型准确性。
此外,亚马逊云科技还发布了新一代Amazon Trainium3芯片。Trainium3是亚马逊云科技首款采用3纳米工艺制造的芯片,在性能、能效和密度上树立了新标杆。搭载Trainium3的UltraServers性能预计将是Trn2 UltraServers的4倍,使客户在构建模型时能够更快迭代,并在部署时提供卓越的实时性能。首批基于Trainium3的实例预计将在2025年末上线。
文章评论(0)