本报讯 记者姬晓婷报道:4月9日,Arm宣布推出Ethos-U85 神经网络处理器(NPU),其MAC(乘加累计运算)单元可从128个扩展到2048个,算力可实现在1GHz频率下达到4TOPs,能够为工厂自动化、商用零售、智能家居等高性能边缘AI应用提供支持。此次发布会同时发布了全新物联网参考设计平台——Arm Corstone-320。
当前微处理器被部署到包括工业机器视觉、可穿戴设备和消费者机器人等在内的诸多高性能物联网系统中,且各场景对人工智能功能提出了更高的要求。Ethos-U85由此推出,能够与Armv9 Cortex-A CPU相结合,加速处理机器学习(ML)任务,提供更高能效的边缘推理能力,从而满足上述场景对人工智能功能的更高需求。
据了解,Ethos-U85性能相较前代产品提升了4倍,能效提高了20%,可支持Transformer架构和卷积神经网络(CNN)以实现AI推理。Transformer架构适用于视觉和生成式AI用例,对理解视频、填充图像的缺失部分,分析来自多个摄像头的数据以进行图像分类和目标检测等任务非常有效。全新Ethos-U85 NPU支持了TensorFlow Lite和PyTorch等AI框架。Ethos-U85提供了与前几代Ethos U系列相同的一致工具链,合作伙伴能够利用现有的投资,实现开发体验的无缝衔接。
Arm Corstone-320物联网参考设计平台集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的Ethos-U85 NPU,为语音、音频和视觉等广泛的边缘AI应用提供所需的性能。该平台的软硬件结合特性将使开发者能够在物理芯片就绪前便启动软件开发工作,从而加速推进产品进程,为日益复杂的边缘AI设备缩短上市时间。
Arm此次发布的最新架构主要面向边缘侧,关于Arm此次发布的产品将在家电厂商探索结合人工智能技术新品中发挥什么作用,Arm物联网事业部业务拓展副总裁马健告诉《中国电子报》记者,第一,能够提供更自然的交互能力。传统智能家居,要使用其智能功能的话,需要用户下载新的APP,这对于用户而言,使用过程不够友好。而搭载大模型的家用电器,其自然语言交互能力得到了极大的提升,通过采用支持Transformer架构的Ethos-U85和Corstone-320参考设计,可以比较轻松地将由支持自然语言交互的大模型压缩的小模型部署到各种家电中,这对用户来说门槛会更低,也会更友好。
第二,云、边、端的协同。大模型之所以智能,是由于参数量大。当前多数大模型被部署在云端。家电厂商收集的用户数据等,都集中在云端训练和优化。但同时,为了增强用户体验,家电终端侧、家庭网关边侧,也会部署支持自然语言响应的模型,因此,为了支持更丰富的用例和功能,云、边、端的协同至关重要,而Arm的技术横跨云、边、端,便可很好地充分发挥出优势作用。
马健还补充道,Arm在数据中心、云、边、端都有强有力的产品和统一的工具链支持,因此更具有生态优势。