江苏龙网

  1. 首页 > 资讯 > 科技 > >

[人工智能]AI芯片的一些科普( 五 )


先进AI芯片的价值
领先的节点AI芯片对于高性价比、快速训练和推理AI算法越来越必要 。 这是因为它们相对于最先进的CPU表现出效率和速度的提升和尾随节点AI芯片 。 而且 ， 效率转化为芯片成本（芯片生产成本的总和）的总体成本效益 。 （即设计、制造、组装、测试和封装成本） 。 最后 ， 许多计算密集型AI算法的训练和推理的成本和速度瓶颈 ， 使得AI开发者和用户需要最先进的AI芯片来保持在AI研发和部署方面的竞争力 。
最先进的AI芯片的效率转化为成本效益 。
效率转化为整体成本效益 。 对于trailing nodes ， 芯片运营成本（由于能耗成本）主导着芯片生产成本 ， 并迅速膨胀到难以管理的水平 。 即使对于先进节点 ， 运营成本也与生产成本类似 ， 这意味着需要继续优化以提高效率 。
表2给出了一个CSET芯片生产和运行成本模型的结果 ， 该模型针对的是与Nvidia P100 GPU类似规格的服务器级5nm芯片相同数量的90 - 5nm节点 。 这意味着5纳米以上的芯片需要更大的表面积 。 对于5nm以上的节点 ， 该模型可以等效地解释为生产多个芯片 ， 这些芯片的晶体管计数为一个5nm芯片 。 该模型采用无晶圆厂设计公司的视角 ， 在2020年设计芯片 ， 从台积电代工 ， 然后在自己的服务器上运行芯片 。 这与谷歌等公司的做法类似 。 谷歌在内部设计TPU ， 将制造外包给台积电 ， 然后在谷歌服务器上运行自己的TPUs ， 向外部客户提供人工智能应用程序或云计算服务 。
费用细分如下 。 代工厂支付的代工销售价格包括资金消耗(即建厂和收购中小企业的成本)、材料、人工、代工研发和利润率 。 无晶圆厂的公司还会额外增加芯片设计成本 。 制造完成后 ， 外包的半导体和测试公司对芯片进行组装、测试和封装(ATP) 。 代工销售价格、芯片设计成本、ATP成本之和等于每片芯片的生产总成本 。 无晶圆厂的公司在操作芯片时也会产生能源成本 。 我们根据每千瓦时0.07625美元的电力成本来估算能源成本 。
[人工智能]AI芯片的一些科普
本文插图

表2:不同节点的芯片成本 ， 等效晶体管数量为5nm
首先 ， 在不到两年的时间内 ， 运营一款先进节点的AI芯片（7或5nm）的成本超过生产所述芯片的成本 ， 而运行尾部节点AI芯片（90或65nm）的累积电力成本是生产这种芯片的成本的三到四倍 。 图2显示了连续使用长达三年的总芯片成本:每个芯片的总生产成本在第0年增加 。 随后每年增加使用该芯片的年度能源成本 。 这些结果表明 ， 在计算生产和运营时 ， 先进节点AI芯片的成本效益是落后节点AI芯片费用的33倍 。 同样 ， 由于先进节点AI芯片的效率比先进节点CPU高出一到三个数量级（表1） ， 我们预计 ， 在计算产量和OPE时 ， 先进节点AI芯片的成本效益也比先进节点CPU高出1到3个数量级 。
[人工智能]AI芯片的一些科普
本文插图

图2:不同节点的AI芯片随时间变化的成本
其次 ， 生产和运行5nm芯片的成本需要8.8年才能达到运行7nm芯片的成本 。 8.8年后 ， 7nm和5nm芯片更便宜 。 因此 ， 只有当预期使用5nm节点芯片8.8年时 ， 用户才有动力更换现有的7nm节点芯片（假设它们不会发生故障） 。 图2显示了90 nm和5 nm之间的节点间比较 。
我们发现 ， 这些成本变得相等的时间段增加了 ， 在7nm与5nm的比较中 ， 成本急剧增加 。 公司通常会在运营三年后更换服务器级别的芯片 ， 这与最近引入新节点的时间框架是一致的 ， 依赖先进节点芯片的公司在新推出的节点芯片一上市就立即购买 。 然而 ， 如果公司开始购买5nm节点芯片 ， 他们可能期望更长时间地使用这些芯片 。 这将构成一个市场预测 ， 即摩尔定律正在放缓 ， 3nm节点可能在很长一段时间内不会推出 。


推荐阅读


上一篇：断触@最便宜骁龙865手机用户评价：性能强大，存发热和断触现象

下一篇：「设计」太好了，发现一种“隐藏”的对称，能为超材料的设计开辟新途径