边缘计算|AI 不仅好玩,更是一件有价值的事情

边缘计算|AI 不仅好玩,更是一件有价值的事情
文章图片

文章图片

但 , AI 开发开头难 , 然后中间难 , 最后结尾难 , 怎么办?
对于行业用户来说 , AI 不仅是一件「好玩」的事 , 还是一件真正有价值的事 。最大的价值就体现在 , AI 正在成为企业实现降本增效的有效途径 。
比如疫情出现后 , 很多公共场所的人工温枪检测 , 被 AI 多人体温检测方案替代 。基于人脸关键点检测及图像红外温度点阵温度分析算法 , 在一定面积范围内对人流区域多人额头温度进行快速筛选及预警 , 不仅降低了人工成本 , 提升了温检的速度 , 还能够提供快速预警和分析 , 实现全局掌控 。
边缘计算|AI 不仅好玩,更是一件有价值的事情
文章图片

文章图片

作为半个行业人士 , 我常常在路过写字楼、超市、酒店、车站等公共场所的温检机时想 , 这些机构是如何部署 AI 的?他们需要组建多大的一个 AI 专业团队?对于硬件设施又要有多大的投入?还有 , 每天检测的这些数据 , 会不会被谁拿去做他用?
业务场景的 AI 转型关注的是投入产出比 , 而上升到公司层面的 AI 转型 , 那就不仅需要海量数据的积累 , 对企业算法人员的技术水平、业务理解能力等多个方面都会有较高的要求 。
说到底 , AI 部署的高门槛与高成本 , 让大批企业望而却步 。
边缘计算|AI 不仅好玩,更是一件有价值的事情
文章图片

文章图片

部署 AI 是一道难题
【边缘计算|AI 不仅好玩,更是一件有价值的事情】调查显示 , 在有定制业务模型需求的客户中 , 超过 35% 的场景有离线边缘计算的需求 。
边缘计算主要是在局域网和类局域网的边缘终端上进行的 , 将模型部署到边缘侧或端侧的嵌入式设备中 , 进行单机离线运行 。
当用户的模型应用场景没有网络覆盖 , 或是业务数据较为机密 , 或是对预测延时要求较高时 , 往往会选择嵌入式部署方式 。
这种方式具有实时响应、网络开销低、隐私保护、能耗比高等优势 。
但同时 , 端计算由于设备的多样性 , 研发和部署成本相比云部署更高 , 且往往实际业务场景对在端上运行的模型的时延和稳定性也会有极高的要求 。
因此 , 如何将定制好的模型部署适配到端设备 , 并兼顾识别效果、性能和内存消耗 , 是一个需要耗费大量研发工作的技术难题 。
边缘计算|AI 不仅好玩,更是一件有价值的事情
文章图片

文章图片

难题就一定有解决方案
正是为了应对 AI 模型多样化的部署需求 , 百度零门槛 AI 开发平台 EasyDL 提供了多种部署方式 , 包括公有云部署、本地服务器部署、设备端 SDK 和软硬一体解决方案 , 适用于各类业务场景与运行环境 , 便于开发者根据需求灵活选择 。
特别是在嵌入式部署方面 , EasyDL 的设备端 SDK , 支持的硬件类型也非常丰富 , 从最常见的 x86、ARM、Nvidia-GPU , 到 NPU、FPGA , 支持超过 10 类硬件 。
同时 , 依托于百度飞桨深度学习平台相关功能的支持 , EasyDL 具备强大的端计算部署能力 , 在生成端计算模型时 , 会经过一些列的优化、加速、压缩功能 。
在 EasyDL 平台上 , 模型加速优化的全过程都会在系统中自动完成 , 用户只需根据自己的场景需要 , 选择具体的硬件 , 即可自动生成适配对应硬件的端计算部署包 。
EasyDL 面向企业开发者提供零门槛 AI 开发平台 , 一站式支持智能标注、模型训练、服务部署等全流程功能 , 内置丰富的预训练模型 , 支持图像分类、物体检测、文本分类、音视频分类等多类模型 , 支持公有云/私有化/设备端等灵活部署方式 。


推荐阅读