AI人工智能,行业互联网|从算力、数据、算法、工程化等维度看AI的未来( 二 )
文章图片
文章图片
不过 ， 值得注意的是 ， 摩尔定律在计算芯片领域依然维持 ， 很大原因是因为图形处理器（GPU）的迅速发展 ， 弥补了通用处理器（CPU）发展的趋缓 ， 如图6所示 ， 从图中可以看出GPU的晶体管数量增长已超过CPU ， CPU晶体管开始落后于摩尔定律 。
文章图片
文章图片
当然 ， 半导体晶体管数量反映整体趋势可以 ， 但还不够准确地反映算力发展情况 。对于AI系统来说 ， 浮点运算和内存是更直接的算力指标 ， 下面具体对比一下GPU和CPU这2方面的性能 ， 如图7所示 。可以看出 ， GPU无论是在计算能力还是在内存访问速度上 ， 近10年发展远超CPU ， 很好的填补了CPU的性能发展瓶颈问题 。
文章图片
文章图片
另一方面 ， 依照前瞻产业研究院梳理的数据 ， 就2019年的AI芯片收入规模来看 ， GPU芯片拥有27%左右的份额 ， CPU芯片仅占17%的份额 。可以看到 ， GPU已成为由深度学习技术为代表的人工智能领域的硬件计算标准配置 ， 形成的原因也十分简单 ， 现有的AI算法 ， 尤其在模型训练阶段 ， 对算力的需求持续增加 ， 而GPU算力恰好比CPU要强很多 ， 同时是一种与AI算法模型本身耦合度很低的一种通用计算设备 。
除了GPU与CPU ， 其他计算设备如ASIC、FGPA等新兴AI芯片也在发展 ， 值得行业关注 。鉴于未来数据大概率仍在云端存储的情况下 ， 这些芯片能否在提高性能效率的同时 ， 保证通用性 ， 且可以被云厂商规模性部署 ， 获得软件生态的支持 ， 有待进一步观察 。
03 算法
现在我们来分析算法 。AI算法对于人工智能 ， 就是厨师与美味佳肴的关系 。过去10年AI的发展 ， 数据和算力都起到了很好的辅助作用 ， 但是不可否认的是 ， 基于深度学习的算法结合其应用取得的性能突破 ， 是AI技术在2020年取得里程碑式发展阶段的重要原因 。
那么 ， AI算法在未来的发展趋势是什么呢？这个问题是学术界、工业界集中讨论的核心问题之一 ， 一个普遍的共识是 ， 延续过去10年AI技术的发展 ， 得益于深度学习 ， 但是此路径发展带来的算力问题 ， 较难持续 。下面我们看一张图 ， 以及一组数据：
文章图片
文章图片
1. 根据OpenAI最新的测算 ， 训练一个大型AI模型的算力 ， 从2012年开始计算已经翻了30万倍 ， 即年平均增长11.5倍 ， 而算力的硬件增长速率 ， 即摩尔定律 ， 只达到年平均增速1.4倍；另一方面 ， 算法效率的进步 ， 年平均节省约1.7倍的算力 。这意味着 ， 随着我们继续追求算法性能的不断提升 ， 每年平均有约8.5倍的算力赤字 ， 令人担忧 。一个实际的例子为今年最新发布的自然语义预训练模型GPT-3 ， 仅训练成本已达到约1300万美元 ， 这种方式是否可持续 ， 值得我们思考 。
2. MIT最新研究表明 ， 对于一个过参数化（即参数数量比训练数据样本多）的AI模型 ， 满足一个理论上限公式：
上述公式表明 ， 其算力需求在理想情况下 ， 大于等于性能需求的4次方 ， 从2012年至今的模型表现在ImageNet数据集上分析 ， 现实情况是在9次方的水平上下浮动 ， 意味着现有的算法研究和实现方法 ， 在效率上有很大的优化空间 。
3. 按以上数据测算 ， 人工智能算法在图像分类任务（ImageNet）达到1%的错误率预计要花费1亿万亿（10的20次方）美元 ， 成本不可承受 。
推荐阅读
- Spacex|卫星互联网轨道资源稀缺，中国航天如何与国际卫星界大亨竞争？
- AI人工智能|原创 智能门锁改造计划，德施曼小嘀全自动电子猫眼锁Q3M上线小米有品
- 人工智能|济南将打造全球首个人工智能医药研发自动化实验室
- 互联网|建行“数字人民币钱包”已上线 仅限部分测试地区开通
- 行业互联网|大华股份与大连量天科技签署战略合作协议
- 行业互联网|原创 估值2000亿！刘强东手中这张“独角兽”，成立时间竟然不到两年？
- AI人工智能|宋庆龄文化空间揭幕 聚焦少儿人工智能互动体验
- 行业互联网|李炳忠15点正式官宣，realme成立2年，稳居全球第七！
- 互联网|同城跑腿配送生意好做吗？需要注意什么？
- 人工智能|商汤科技林达华：OpenMMLab助开发者缩短AI项目路径