高通|5G 时代,高通如何释放 AI 全部实力( 二 )


在终端侧大规模运行推理 , 就不得不引出另外一个关键词——能效 。 还是以智能手机为例 , AI 运算本身需要反复、高强度的运算环境 , 智能手机的计算能力、电池、存储空间等方面都可能是个问题 , 而高通给出的解决方法 , 是在 AI Engine 中引入 Hexagon 张量加速器 。 Hexagon 支持的是 8 位和 16 位的定点运算 , 而定点运算有助于模型更快的运行 , 同时能耗也更低 , Hexagon 张量处理器的加入 , 可以大大提高 AI Engine 的整体运算效率 , 降低功耗 。
高通|5G 时代,高通如何释放 AI 全部实力
文章图片

此外 , 移动端很多 AI 用例都是并行用例 , 在处理这些用例的时候 , 往往有大量数据进入到终端 , 处理这些海量数据 , 一定会对手机的性能资源、功耗造成不小压力 。 针对这个问题 , 高通在 AI Engine 中开发了一项全新的专用技术 , 叫做深度学习带宽压缩 。 这项技术能够对这些海量数据进行高达 50% 的压缩 , 从而将需要进入到芯片处理的数据压缩一半 , 以节省电能、降低功耗 。
【高通|5G 时代,高通如何释放 AI 全部实力】高通认为 , 我们正处于机器学习发展征程的最初期 , 深度学习也仅是具备改变计算潜力的多项机器学习技术之一 。 随着 5G 发展壮大并建立起统一的连接架构 , AI 将带来巨大的社会效益 , 而高通 , 正在持续推进这个过程 。


推荐阅读