江苏龙网

  1. 首页 > 资讯 > 科技 > >

人工智能@边缘AI能聪明到什么程度？( 四 )


人工智能@边缘AI能聪明到什么程度？
本文插图

图7 Imagination Technologies AI资深主管Andrew Grant提倡尽可能多地在边缘实现智能 ， 然后在设备的生命周期使用软件进行优化 。
Grant说：“我们认为应该尽可能多地在边缘实现智慧 ， 然后在设备的生命周期使用软件进行优化 。 ”他与游戏机产业作了个比较 ， 当供货商发布一款新的游戏机后 ， 在硬件的整个生命周期中 ， 是透过软件更新对游戏机进行优化 。 他补充 ， 从成本或尺寸的角度来看 ， 在系统单芯片(SoC)中增加神经网络加速器并不重要；“因此边缘加速的机会真的非常巨大 。 ”
Bergey说：“随着异质运算在基础架构中的普及 ， 我们必须能够判断在哪里处理资料是最好的 ， 这因应用而异 ， 甚至在一天中不同的时间里也不相同 。 市场所需的解决方案是能够让不同的AI层担任不同的角色 ， 以了解全局 ， 从而推动真正的业务转型 。 在边缘 ， AI扮演着双重角色 。 在网络层 ， 它可以对数据流进行分析 ， 智能地将数据发送至最合适的处理点 ， 这有可能是云端 ， 也可能是其他节点 ， 从而实现网络预测和网络功能管理 。 ”
Intrater补充 ， “边缘应该多智能”取决于具体的应用、能处理多少延迟(对重要的实时应用而言不多)、功率范围多大(对电池供电的设备而言非常小)、安全和隐私问题 ， 以及是否能连网 。 即使能连网 ， 你也不会希望把所有的数据都发送到云端进行分析 ， 因为那样带宽开销很大 。 在边缘和云端之间划分出智能区域是为了平衡所有这些问题 。
Bergey接着说 ， “AI也可以在本地的边缘服务器上执行 ， 但训练和分析通常是在云端完成 。 要决定AI在哪里执行并不是那么容易 ， 『智慧』通常是分布式的 ， 有些在云端执行 ， 有些在边缘设备中执行 。 一个典型的AI系统分为本地执行和远程执行两部分 。 Alexa/Siri就是一个很好的例子 ， 设备中有算法来完成语音/关键词辨识 ， 而互动是在云端完成 。 ”
什么是赋能技术？ “实现边缘AI需要很多关键的赋能技术 。 最容易想到的就是适合执行AI算法的高性能、低能耗、价格便宜的处理器 。 ”Bier说 ， 还有其他许多技术 ， 其中最重要的技术包括：
软件工具：促进这些处理器的有效使用；
云端平台：从边缘设备汇集元数据 ， 并管理边缘设备的预配和维护 。
采访的公司大多可提供一系列用于边缘AI的设备和IP 。 英飞凌称可提供用于IoT的传感器、致动器、MCU(包括神经网络加速器)和硬件安全模块 。 Furtner表示：“我们在电源效率、安全和安防方面有很大优势 。 使用我们的产品能够连接现实世界与数字世界 ， 为边缘提供安全、可靠和节能的AI解决方案 。 ”
Ni说 ， 将AI边缘产品推向市场并非易事 ， 因为这需要工程师将ML技术与传感器融合 ， 以及计算机视觉和讯号转换等传统算法相结合 。 “为了满足端到端响应 ， 就要优化所有的工作负载 ， 这需要一个自我调整定制运算架构(adaptable domain specific architecture) ， 使硬件和软件均可程序设计 。 Xilinx SoC、FPGA和ACAP提供了这样的自我调整平台 ， 在满足端到端产品需求的同时可持续创新 。 ”
恩智浦称其赋能技术包括硬件和软件 。 Levy说：“有客户使用我们的低阶Kinetis或LPC MCU来实现一些智能功能 。 在我们的i.MX RT交叉处理器级别 ， 事情开始变得更有趣 ， 我们提供整合Cortex-M7核心的MCU ， 工作频率为600~1,000MHz 。 我们新的RT600包括一个M33和HiFi4 DSP ， 透过在异质模式下使用DSP ， 以加速神经网络的各种组件 ， 从而实现中等性能的ML 。 将频谱提升 ， 最新的i.MX 8M Plus将4个A53核心与一个专用神经处理单元(NPU)整合 ， NPU可提供2.25TOPS运算力 ， 推断性能提高2个数量级 ， 功率小于3W 。 这种高阶NPU对于实时语音识别(即NLP)、手势辨识 ， 以及实时视讯和物体辨识等应用至关重要 。


推荐阅读


上一篇：#手机大魔王#小米：米10青春版用钻石排列，华为荣耀不如？还是玩的信息不对称

下一篇：【小米】上半年最佳选择，小米10 pro，换机党不用纠结