a&s 功能实测 比特大陆AI边缘计算模组算丰SM5( 三 )


a&s 功能实测 比特大陆AI边缘计算模组算丰SM5

----a&s 功能实测 比特大陆AI边缘计算模组算丰SM5//----

  上图是16路1080P的满帧处理情况 , 仅仅为初步部署 , 并未进行优化 。 用户可以自行开发算法软件 , 并进行适度优化 , 完全有可能实现单个模组超过16路甚至30路视频流的人脸检测分析 , 或者视频结构化的业务分析能力 , 可以说在应用端到端的算力非常强大 。

  SM5模组的实际应用算力实测非常强 , 相应的神经网络模型速度肯定也很快 。 as将SM5模组、Nvidia TX2模组 , 以及Huawei ATLAS 200模组做了性能实测比对 , 在几种典型的神经网络分类模型测试中 , 吞吐数据如下表:


a&s 功能实测 比特大陆AI边缘计算模组算丰SM5

----a&s 功能实测 比特大陆AI边缘计算模组算丰SM5//----

  测试数据来源为比特大陆实验室

   从实测结果来看 , 在性能上 , SM5相比TX2有十倍级别的性能优势 。 相比ATLAS 200 , 虽然理论峰值标称算力SM5和ATLAS200很接近(17.6T vs 16T) , 但是从实测来看 , SM5的性能倍数在最典型Resnet 50上有1.5倍的优势 , 在Mobilenet上有2.38倍的优势!这说明 , 标称算力和实际获得的算力具有一定的差别 。 算丰SM5具有较高的有效计算利用率 。


a&s 功能实测 比特大陆AI边缘计算模组算丰SM5

----a&s 功能实测 比特大陆AI边缘计算模组算丰SM5//----

a&s 功能实测 比特大陆AI边缘计算模组算丰SM5。  总的来看 , 无论是实际应用的性能 , 还是神经网络模型的速度吞吐 , SM5模组都是很强大的 , 和业内其他产品相比也有较大的优势 。

  工具链完备 , 易用度高

  对于开发者而言 , 都希望开发简单易用 , 特别是从CPU , GPU等的以前的模型和算法 , 能够比较轻易的转到新的AI硬件上来 。 而比特大陆的算丰AI芯片的多种产品(板卡、模组、盒子) , 保持统一的工具链和系统软件 。

  其中工具链完备 , 开发友好:

  包括底层驱动环境、编译器、推理部署工具等一系列软件工具;

  支持Caffe、Tensorflow、PyTorch、PaddlePaddle等深度学习框架 , 离线编译和校准工具易用;

  完备的性能监控工具、神经网络运行库、视频编解码库、图像编解码库、图像处理库;

  可提供算法测试用例 , 包括人脸检测、物体检测等 。

  可应用场景广泛

  比特大陆算丰AI计算模组SM5的定位是被集成 , 所以应用场景是多种多样的 , 包括了AI边缘计算服务器 , 智能NVR , AI边缘计算盒 , 机器人 , 大中型无人机等等 。 模组的主要功能就是进行视觉AI的计算 , 能够为传统产品附加AI功能 , 支持人脸检测与识别、面部表情分析、物体检测与识别、车牌识别、声纹识别等 , 可应用于人脸识别、自动驾驶、城市大脑、智能安防、智能医疗等人工智能场景 , 应用领域广泛 。


推荐阅读