智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发( 二 )


基于 Atlas 硬件与昇腾AI全栈软件平台的组合拳 , 华为昇腾计算已构筑 8 大竞争力 。
(1)高性价比:据华为实测 , 华为AI推理卡Atlas 300I的推理性能、华为最高算力密度服务器Atlas 800的训练性能均超过业界领先竞品 。
(2)统一API:CANN通过昇腾统一编程接口AscendCL API , 支持端边云全场景协同 。
(3)开放架构:支持TensorFlow、PyTorch等主流AI框架 , 并适配客户自研框架 。
(4)使能行业:MindX提供多个行业SDK、优选模型库、深度学习平台及智能边缘平台 , 其中优选模型库中提供的预训练高性能模型到今年底预计有超过60个 , 可大大降低AI应用门槛 。
(5)边云协同:中心训练+边云推理 , 一站式开发 , 统一模型部署及更新 , 模型保护/加密 。
(6)最优集群:昇腾集群线性度较业界领先 。
(7)开发工具:面向不同类型开发者 , 构筑贯穿整个开发流程的工具链MindStudio 。
(8)统一运维:基于FD/SmartKit构筑智能运维 。
二、 异构计算架构 CANN 3.0 详解:专为 AI 设计 , 端边云全场景协同市面上的AI芯片层出不穷 , 那么华为的独到优势有什么?
回答这个问题 , 就避不开华为昇腾的一大秘密武器——CANN 。
如今 , 华为的产品线已覆盖云、管、端、芯 , 鲜少有公司具备如此庞大而全面的产品矩阵 。 如果每类芯片各做一套编程语言 , 那么对开发者而言 , 要学习的内容会非常繁琐耗时 。
在这一背景下 , 为AI设计的异构计算架构CANN起到了极为关键的作用 。
华为投入逾千人的研发团队专攻CANN研发 , 历经三年迭代 , 形成了端边云协同的统一编程架构CANN 3.0 。
智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发
本文插图

具体而言 , CANN 3.0有三大创新特性:端边云全场景协同、AscendCL使能高效开发、释放硬件澎湃算力 。
1 、支持软硬件解耦 , 端边云全场景协同
CANN 3.0具有极强的伸缩性和可适应性 , 下接异构芯片 , 上承AI框架 , 只需编写一套应用代码 , 即可兼容覆盖端边云的10+种设备形态、14种操作系统、多种主流AI框架 。
【智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发】华为海思的麒麟芯片、小海思的Hi3559A等芯片、Atlas全系列硬件以及华为云 , 均使用CANN来实现底层AI芯片使能 , 即一次开发 , 全场景适用 。
智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发
本文插图

CANN 3.0的核心功能 , 恰恰是要真正做大AI计算“产业蛋糕”所不可或缺的“软”实力 。
2 、统一API、两种算子开发方式、四大开放性设计
CANN 3.0拥有昇腾统一编程接口AscendCL API、两种TBE算子开发模式 , 以及Plugin适配、图融合优化接口、Ascend-IR接口、预置算子库源码开放这四大开放性设计 。
智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发
本文插图

神经网络是以算子来组成不同应用功能的网络结构 。 这些不同的模块全部对外开放 , 支持第三方框架、自定义算子融合、自定义模型、自定义修改算子 , 端到端覆盖全场景AI应用开发 。
所有底层资源均通过专为深度学习设计和优化的昇腾统一编程接口AscendCL来对外开放 。
AscendCL将算子调用API归一化 , 支持全系列昇腾芯片 , 一套应用代码可以在不同芯片上运行 , 从而有效简化编程难度 , 为神经网络提供高效算力支撑 。
此外 , AscendCL还保持后向兼容 , 现在编写的代码 , 也支持在未来推出的华为昇腾芯片上运行 , 确保应用软件可用性 。
智东西|华为昇腾AI全栈软件平台首次全解读!重磅AI计算核弹齐发


推荐阅读