如何选择边缘人工智能设备

人工智能
在确定边缘技术是否适合应用之后,我们将讨论买家在评估边缘人工智能设备时应该考虑的主要特性和考虑因素。

边缘计算已成为最受关注的技术趋势之一,伴随着所有这些话题,也许你会认为是时候为你的物联网网络投资智能边缘技术了。然而,在开始购买新的边缘设备之前,让我们讨论一下边缘计算到底是什么,它的作用是什么,以及应用是否能从边缘技术中受益。

边缘计算可以为物联网网络增加大量的灵活性、速度和智能,但重要的是要了解边缘人工智能设备并不能解决智能网络应用面临的所有挑战。在本文的最后,在确定边缘技术是否适合应用之后,我们将讨论买家在评估边缘人工智能设备时应该考虑的主要特性和考虑因素。

如何选择边缘人工智能设备

什么是边缘计算

边缘计算在云的边缘将物联网提升到一个更高的层次,原始数据可以实时转化为价值。通过在整个网络中重新分配数据处理工作,提升了连接节点、端点和其他智能设备的重要性和治理。

边缘计算几乎与云计算完全相反,在云计算中,数据从分布式网络流入,在集中的数据中心进行处理,结果通常被传输回原始的分布式网络,以触发动作或产生变化。然而,长距离传输大量数据会产生成本的。这些成本可以用金钱来衡量,但也可以用其他关键的方式来衡量,比如用权力或时间。

这就是边缘计算的切入点。当功率、带宽和延迟真的很重要时,边缘计算可能是答案。与集中式云计算不同的是,在中心化云计算中,数据可能要穿越数百英里才能被处理,边缘计算使数据能够在数据被感知、创建或驻留的同一网络边缘位置处理。这意味着处理延迟几乎可以忽略不计,对功率和带宽的要求通常也大大降低。

当今边缘计算的主要推动者之一是半导体制造商在不大幅增加功耗的情况下提高处理能力的方式。这意味着位于边缘的处理器可以在不消耗更多功率的情况下利用它们获取的数据做更多事情。这允许更多的数据停留在边缘,而不是被传输到核心。除了降低系统总功率外,这还增加了响应时间并改善了数据隐私。

受益于这一发展的一些技术包括人工智能和机器学习,但这些也依赖于降低数据获取成本,同时提高数据隐私级别。通过边缘处理可以同时解决成本和隐私问题。就AI和ML等新兴趋势而言,这两种技术传统上都需要大量资源,远远超过端点或智能设备中通常可用的资源。现在,由于硬件和软件水平的进步,还可以将这些支持技术嵌入到位于网络边缘的更小、资源更有限的设备中。

评估边缘人工智能

选择能够执行边缘处理的平台,可能包括运行AI算法或ML推理引擎,这需要仔细评估。简单的传感器和执行器,即使是属于物联网的一部分,也可以通过相对较小的集成设备实现。增加边缘处理的数量将需要一个更强大的平台,可能使用高度并行的架构。通常情况下,这意味着GPU,但如果平台太强大,它将成为网络边缘有限资源的负担。

同样重要的是要记住,边缘设备基本上是现实世界的接口,因此它可能需要支持一些常见的接口技术,如以太网,GPIO,CAN、串行和/或USB)。它也可能需要支持外围设备,如摄像头、键盘和显示器。

边缘也可以是与舒适的气候控制数据中心截然不同的环境。边缘设备可能暴露在极端的温度,湿度,振动甚至高度。这将对设备的选择产生影响,以及如何包装或封装。

另一个需要考虑的重要方面是监管要求。任何使用射频进行通信的设备都将受到法规的约束,并可能需要许可证才能运行。一些平台将“开箱即用”遵守规定,但其他平台可能需要付出更多努力。一旦投入使用,它们就不太可能得到硬件升级,因此必须在设计周期内仔细确定处理能力、内存和存储,以便为未来的性能提升提供空间。

这包括软件升级。与硬件不同的是,可以在设备在现场时部署软件更新。这些无线更新现在非常常见,很可能任何边缘设备都需要设计为支持OTA更新。

选择正确的解决方案将涉及对所有这些一般点的仔细评估,以及仔细研究应用程序的特定需求。比如设备是否需要处理视频数据,或者音频数据,亦或者只处理温度,还是也监测其他环境方面。这些问题中的许多适用于部署在前沿的所有技术,但随着加工水平的提高和对产出的期望的提高,将有必要扩大要求列表。

边缘计算的好处

现在,将AI和ML放入边缘设备和智能节点中在技术上是可能的,这将带来重大的机遇。这意味着处理引擎不仅更接近数据源,而且该引擎可以对它收集的数据做更多的事情。

这样做确实有好处。首先,它可以提高生产力,或数据使用的效率。其次,它简化了网络架构,因为移动的数据更少。第三,它使接近数据中心变得不那么重要。如果数据中心在城市中,那么最后一点可能看起来不太重要,但是如果网络的边缘是一个偏远的位置,比如农场或水处理厂,那么这一点就会有很大的不同。

不可否认的是,数据在互联网上快速移动。许多人可能会惊讶地发现,搜索查询可能会在结果出现在屏幕上之前在全球范围内传播两次。总经过的时间可能只有几分之一秒,而对我们来说,这几乎是瞬间的。但对于组成互联、智能且通常是自主的传感器和执行器的互联网的机器和其他智能设备来说,每一秒都感觉像是一个小时。

这种往返延迟是实时系统的制造商和开发人员真正关心的问题。数据往返于数据中心所花费的时间并非无关紧要,当然也不是瞬间的。减少这种延迟是边缘计算的一个关键目标。它与更快的网络协同工作,这是5G发挥作用的地方。但是,随着更多的设备上线,推出更快的网络将无法弥补我们预期的累积网络延迟。

分析人士预测,到2030年,联网设备的数量可能会达到500亿台。如果这些设备中的每一个都需要一个数据中心的宽频带,那么网络将永远拥塞。如果它们中的许多在管道中运行,等待上一阶段的数据到达,那么总延迟很快就会变得非常明显。边缘计算是缓解拥塞网络的唯一可行的解决方案。

然而,虽然总体上对边缘计算有一定的需求,但边缘计算的具体好处仍然在很大程度上取决于应用,这就是边缘计算法则的应用。这些定律将帮助工程团队决定边缘计算是否适合特定应用。

边缘计算的4大定律

物理定律

第一定律是物理定律,这个是不可变的。射频能量以光速传播,就像光纤网络中的光子一样。这是好消息。坏消息是它们不能再快了。因此,如果往返时间仍然不够快,那么边缘计算可能是正确的选择。

Ping测试提供了一种简单的方法,可以测量数据包在网络连接的两个端点之间传输所需的时间。在线游戏通常托管在多个服务器上,玩家将ping服务器,直到他们找到延迟最低的服务器,这意味着数据可以以最快的速度传播。这就是时间敏感数据的关键,即使是几分之一秒。

延迟也不完全依赖于传输机制。每一端都有编码器和解码器,这些物理层需要将电子转换成所使用的任何能量形式,然后再将它们转换回来。所有这些都需要时间,即使处理器以千兆赫的速度运行,时间也是有限的,而且取决于所移动的数据量。

经济学定律

这种方法可能更灵活一些,但随着处理和存储资源需求的飙升,它也更难以预测。利润总是微薄的,但如果在云计算中处理数据的成本突然上升,它可能证明盈利或亏损之间的差别。

云服务的成本开始于购买或租用服务器、机架或刀片的成本。这取决于CPU内核的数量、所需的RAM或永久存储的数量以及服务级别。有保证的正常运行时间比没有保证的服务水平花费更多。网络带宽基本上是免费的,但是如果需要最低水平的带宽,那么应该为此付出代价,在评估成本时需要考虑到这一点。

也就是说,在边缘处理数据不受这种可变成本的影响。一旦设备的初始成本已经产生,在边缘处理任何数量的数据的额外成本几乎为零。

数据保护法

数据之所以有价值,是因为它意味着或代表着某些东西。现在,捕获信息的任何人现在都可能受制于捕获该数据所在地区的数据隐私法。这意味着,即使是捕获数据的设备的合法所有者,也可能不允许跨越地理边界移动数据。

例如,这将包括《欧盟数据保护指令》、《通用数据保护条例》和《亚太经济合作隐私框架》。加拿大的《个人信息保护与电子文档法》与欧盟的数据保护法相符合,而美国的《安全港安排》也与欧盟的数据保护法相符合。

边缘处理可以克服这一点。通过在边缘处理数据,它不需要离开设备。在便携式消费设备中,数据隐私越来越重要,手机上的面部识别使用本地人工智能来处理摄像头图像,所以数据永远不会离开设备。闭路电视和其他安全监控系统也是如此。使用摄像头监控公共空间通常意味着图像由基于云的数据服务器传输和处理,这会带来数据隐私问题。在相机中处理数据既快又安全,可能消除或简化数据隐私措施的需要。

墨菲定律

最后,我们需要考虑墨菲定律,该定律指出,如果某件事可能出错,它就会出错。当然,即使在世界上最精心设计的系统中,也总会出现问题。边缘处理可以消除与通过网络移动数据相关的许多可能的故障点,将其存储在云中并依靠数据中心提供处理能力。

如果一个应用程序在技术上可以从边缘处理中受益,那么还有一些问题要问。以下是一些最相关的建议:

(1)应用运行在什么处理器架构上

将软件移植到不同的指令集可能代价高昂,并会带来延迟,因此升级不应该意味着移出。

(2)需要什么样的I/O

这可以是任意数量的有线和/或无线接口。如果考虑不周会导致效率低下,因此需要尽早解决因此需要尽早解决这个问题。

(3)运行环境是什么

运行环境是冷是热,比如火星任务是边缘处理的一个很好的例子,如果是极端的,运行环境是巨大的变化。

(4)硬件是否需要符合规定或需要认证

答案几乎是肯定的,所以选择一个预认证平台可以节省时间和金钱。

(5)需要多少功率

就单位成本和安装而言,系统电源很昂贵,所以了解功率是非常有益的。

(6)边缘设备是否受限于形状尺寸

这在边缘处理中比许多其他部署更重要,因此需要在设计周期的早期考虑。

(7)工作时间是多少

这是进入可能需要运行多年的工业应用,还是以月为单位测量生命周期,这些都是需要我们考虑清楚的。

(8)系统的性能要求是什么

就处理能力而言,比如每秒帧数、内存要求、应用语言等等。

(9)是否有成本考虑

这是一个棘手的问题,因为答案总是“是”,但知道成本限制是什么将有助于选择过程。

结论

边缘处理是通过物联网实现的,但它的意义远不止于此。它是由比早期连接设备示例更高的期望驱动的。低层次,有共性;该设备可能需要低功耗,可能需要低成本,但现在它可能还需要在不与功耗和成本冲突的情况下提供更高水平的智能操作。

通过选择合适的技术合作伙伴,可以更容易地选择合适的平台。进入一个围绕边缘计算开发的生态系统,为人工智能应用选择正确的边缘计算平台。​

责任编辑:赵宁宁 来源: 千家网
相关推荐

2022-06-02 11:39:15

边缘人工智能机器学习

2023-08-02 17:26:26

人工智能边缘人工智能

2022-09-29 14:40:32

人工智能人工智能风险

2023-08-15 14:31:46

2020-12-22 14:26:00

人工智能边缘计算物联网

2022-02-08 14:09:12

边缘人工智能云计算人工智能

2023-08-30 16:23:57

人工智能

2023-06-07 11:45:43

2020-11-30 08:00:00

人工智能边缘计算技术

2020-11-15 23:31:04

边缘计算边缘人工智能云计算

2022-06-23 12:37:37

人工智能物联网边缘计算

2024-02-26 14:49:04

2023-12-11 11:09:17

人工智能AI芯片机器学习

2020-07-29 09:44:18

人工智能边缘计算技术

2022-12-02 14:33:28

人工智能

2023-12-26 11:58:55

2022-09-20 11:03:05

人工智能AI

2023-06-21 16:57:08

人工智能

2021-11-02 10:39:37

人工智能AI深度学习

2022-03-23 16:06:13

AI神经网络边缘人工智能
点赞
收藏

51CTO技术栈公众号