第五波计算技术的融合——人工智能(AI)、5G与物联网(IoT)——正持续加速令人惊讶的变化,并驱动全新的数据消费模型。在仅考虑IoT的情况:尽管还在发展初期,我们看到它已经褪去全球微型传感器网络的原始面貌,进一步扩展至包含更多高性能设备,包括从智能影像传感器到自驾汽车。
随着IoT持续成长并带动全球数字化转型,通往上游云端的数据海啸,让长期以来针对下游分配优化的网络基础设施遭受打击。它也促生了一个迫切的需求,即在全球互联网架构内实现更分散的算力分布,而这也导致对Arm Neoverse计算解决方案的需求与日俱增。整个生态系统已经对这个挑战作出响应,而纵观Arm过去一年内的进展, Neoverse正在将其初始愿景转换成今日之现实。
由于大型数据集与专属的算力相当集中的缘故,今日大负荷的AI计算多数在云端完成,特别是机器学习(ML)模型的训练。但若把这些模型应用到真实世界中靠近决策点的推论时,以云端为中心的AI模型就会捉襟见肘。数据传输数千英里来到数据中心进行模型比较时,可能会碰到不少延时的问题,因此,没有人能保证当结果返回时仍然对决策有用。时间至关重要,因此把“智能”从云端分配到边缘,就显得合情合理。
随着对决策的要求朝边缘移动,AI将扮演双重角色。除了依据数据本身包含的信息作出及时决定之外,当大量的数据需要被导引至正确的位置时,AI需要在从流量管理到封包检验等方面都发挥作用。这是一个训练与推论兼顾的问题,而传统的计算系统无法与之相适应。过去,互联网边缘传统上只是一个网桥,现在正快速变成智能计算平台,并最终将促成我们称之为AI Edge的浮现,并在2025年形成一个高达300亿美元的计算芯片潜在市场规模。
它可显著减少到云端的回程,降低延迟,并提升可靠性、效率与安全性。有鉴于当今来自全球设备部署的洞见来得极快,模型必须需要实时进化,这点已经显现出至关重要性。利用AI边缘的应用程序的成功部署,关键在于提供能够覆盖各种功耗与性能需求的多元解决方案。单一厂商的解决方案,并无法满足所有需求。除了变成以AI为中心,AI边缘必须是云端原生的、虚拟化(VM或containers)的,同时支持多用户。最重要的是,它必须是安全无虞。
(本文转载自电子发烧友网,如有侵权,请联系删除)