本报讯 近日，Meta宣布推出新一代训练和推理加速器（MTIA）。MTIA是Meta专为AI工作负载而设计的定制芯片系列。

去年5月，Meta推出了MTIA v1，为该公司的第一代人工智能推理加速器。MTIA v1旨在与Meta的高质量推荐模型完美配合。该系列芯片可以帮助提高训练效率，并使实际的推理任务变得更容易。

Meta表示，新一代MTIA的计算和内存带宽比以前的解决方案增加了一倍多，同时保持了与工作负载的紧密联系。

据Meta官方介绍，新一代MTIA由8×8网格的处理元件（PE）组成。这些PE大大提高了密集计算性能（是MTIA v1的3.5倍）和稀疏计算性能（提高了7倍）。新一代MTIA设计还采用改进的片上网络（NoC）架构，使带宽加倍，并允许以低延迟在不同PE之间进行协调。

为了支持新一代芯片，Meta还开发了一个大型机架式系统，最多可容纳72个加速器。它由3个机箱组成，每个机箱包含12块板，每块板包含2个加速器。

此外，Meta还将加速器之间以及主机与加速器之间的结构升级到PCIe Gen5，以提高系统的带宽和可扩展性。

从两代MTIA芯片的对比来看，新一代MTIA芯片采用的是台积电5nm工艺技术，拥有256MB的片上内存，频率为1.3GHz；而MTIA v1的片上内存为128MB，频率为800GHz，采用的是台积电7nm工艺技术。

新一代MTIA芯片的平均频率达到1.35GHz，比MTIA v1的800MHz要高出不少，但同时它消耗的功率（90W）也要比MTIA v1（25W）高出3倍多。

Meta相关负责人表示，公司内部正在设计定制芯片，以便与其现有的基础设施以及将来可能利用的新的、更先进的硬件（包括下一代 GPU）配合工作。 （文 编）