性能最高提升480倍:Arm推出2款新AI边缘计算芯片设计

新闻 人工智能 边缘计算
Arm 推出了 2 款具有 AI 功能的 NPU(神经处理单元),Arm Cortex-M55 和Ethos-U55。

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

Arm 推出了 2 款具有 AI 功能的 NPU(神经处理单元),Arm Cortex-M55 和Ethos-U55

新芯片专为物联网终端设备设计,不需要云连接,旨在提高低功耗嵌入式设备的机器学习和推理能力。

Arm 称,在某些语音和视觉场景下,能将机器学习性能提升多达 480倍

这两款芯片预计 2021 年初上市。

Cortex-M55:氦气技术+自定义指令能力

Cortex-M55 属于 Arm 的 Cortex-M 产品系列,具有性价比高、高能效的特点。

这是第一款基于 Arm 氦气技术的片上系统。所谓氦气技术,实际上是针对 Arm Cortex-M 系列处理器的 M-Profile 矢量扩展(MVE)技术,旨在为最小的嵌入式设备提供增强的机器学习和信号处理。

性能<span><span><span><i style=最高提升480倍:Arm推出2款新AI边缘计算芯片设计">

这是 Armv8.1-M 架构的扩展,该架构针对低功耗芯片进行了优化,增加了150多个新的标量和矢量指令。可以有效计算 8 位、16 位和 32 位定点数据。

对于 8 位定点格式,补充了浮点数据类型,包括单精度浮点数(32 位)和版精度浮点数(16 位)。

Arm 表示,与前代产品相比,采用氦气技术的 Cortex-M55 可将数字信号处理性能提高 5 倍,将机器学习性能提高 15 倍

此外,它还允许高级内存接口提供对机器学习数据的快速访问,并内置于 Arm TrustZone 系统内。

Ethos-U55:Arm 首款 microNPU

Ethos-U55 属于 Cortex-M 处理器的配套 NPU 加速器架构,致力于解决对电池寿命和成本敏感的复杂AI计算难题,需要和 Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4 等产品搭配使用。

Ethos-U55 的设计非常精简,着眼于面积和功率效率,具有较小的内存占用量。

简而言之,这是一款既小又省电、可以在最小的电子设备上运行的神经网络专用芯片。

它包含 32 至 256 个可配置计算单元,与基本的 Cortex-M55 相比,最多可实现 32 倍的机器学习性能提升。

也就是说,与前几代 Cortex-M 芯片相比,Ethos-U55 + Cortex-M55 的组合,运行机器学习任务的速度最高能提升 480 倍。

性能<span><span><span><i style=最高提升480倍:Arm推出2款新AI边缘计算芯片设计">

Arm表示,与 Cortex-M7 相比,Cortex-M55 和 Ethos-U55 的组合,在推理速度上能快 50 倍,在语音活动检测、噪声消除等任务当中,能效最高能提升 25 倍

性能<span><span><span><i style=最高提升480倍:Arm推出2款新AI边缘计算芯片设计">

而在软件方面,Cortex-M55 和 Ethos-U55 都可以与流行的机器学习框架(TensorFlow 和 PyTorch),以及 Arm 自家的解决方案很好地配合使用。

应用领域

机器学习现在正在被部署到各种行业的各个系统当中。

AI边缘芯片,正在成为厂商们互相斗法的新“战场”。

比如英特尔的 Myriad,谷歌的 Edge TPU,英伟达的 Jetson Nano 等等。

Arm 认为,终端 AI 市场将成为未来几年中出现爆炸性增长的领域。

新的 IP 版本,正是为了涵盖这一领域。

比如,新芯片将能够把AI应用程序带到农业领域。

成百上千个配备了机器学习功能的低成本传感器可以仔细校准每株植物需要的水量、肥料和杀虫剂。

比如无人驾驶汽车和智能医疗设备的落地,都需要 AI 边缘芯片的加持。

Arm表示,Cortex M55 + Ethos U-55 的组合,可以执行更高级别的机器学习任务,包括手势检测、指纹、面部、语音识别等。

Arm 汽车及物联网业务 VP 兼总经理迪普提·瓦查妮(Dipti Vachani)补充说:

让 AI 在功率相对较低的设备上运行,而不是必须与基于云的数据中心保持通信,对数据安全和隐私而言至关重要。

不过,Arm 的新芯片设计都属于推理芯片,对对象分类和实时人脸识别这样的计算密集型任务并不适用。

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2023-05-22 14:11:22

MetaAI芯片

2023-10-26 19:18:12

AI数据

2018-05-17 08:14:01

云知声

2023-10-25 18:53:45

芯片AI芯片

2019-11-14 15:15:36

寒武纪芯片

2023-06-30 14:04:00

芯片AI

2023-02-21 14:16:42

2024-01-09 12:58:21

PC性能NVIDIA

2021-12-03 13:52:25

AI 数据人工智能

2020-07-22 08:30:02

代码开发工具

2018-12-28 14:29:44

AI数据芯片

2022-03-21 17:56:59

大模型训练训练框架

2022-03-21 15:06:10

模型字节跳动框架

2021-12-29 11:06:25

Java代码技巧

2010-09-21 16:27:58

OracleOOWSPARC T3

2021-08-26 10:40:12

芯片半导体技术

2020-08-07 10:42:56

边缘计算云计算云平台
点赞
收藏

51CTO技术栈公众号