江苏龙网

  1. 首页 > 资讯 > 科技 > >

[人工智能]AI芯片的一些科普( 四 )


最近 ， 专用FPGA和ASIC在推理方面变得更加突出 ， 因为与GPU相比 ， 它们提高了效率 。 ASIC也越来越多地用于训练 。 FPGA包括逻辑模块（即每个模块包含一组晶体管）其互连可以在制造后由程序员重新配置以适应特定的算法 ， 而ASIC包括为特定算法定制的硬连线电路 。 领先的ASIC通常比FPGA提供更高的效率 ， 而FPGA比ASIC更易于定制 ， 并随着人工智能算法的发展而促进设计优化 。 相比之下 ， 随着新的人工智能算法的开发 ， ASIC正变得越来越过时 。
考虑到每个任务对芯片的不同要求 ， 可以使用不同的AI芯片进行训练和推理 。
首先 ， 不同形式的数据和模型的并行性适合于训练和推理 。 因为训练需要在与推理共享的步骤之上增加计算步骤 。
其次 ， 尽管训练实际上总是受益于数据并行 ， 但推理通常不会 。 例如 ， 可以一次对单条数据执行推断 。 然而 ， 对于某些应用程序 ， 可以并行地对许多数据执行推理 ， 特别是当应用程序需要快速推断大量不同的数据时 。
第三 ， 根据应用的不同 ， 训练和推理的效率和速度的相对重要性可能不同 。 对于训练 ， 效率和速度对于人工智能研究人员高效、快速地迭代研究项目都很重要 。
对于推理 ， 高推理速度可能是必不可少的 ， 因为许多人工智能应用部署在关键系统中（例如 ， 自动车辆） 。 或者不耐烦的用户（例如 ， 对图像进行分类的移动应用程序）需要快速、实时的数据分类 。
另一方面 ， 有效的推理速度可能存在上限 。 例如 ， 推理不需要比用户对移动应用程序的反应时间更快 。
推理芯片比训练芯片需要更少的研究突破 ， 因为它们比训练芯片需要更少的计算优化 。 与GPU和FPGA相比 ， ASIC需要的研究突破更少 。 由于ASIC仅针对特定算法进行优化 ， 设计工程师考虑的变量要少得多 。
为了设计只用于一次计算的电路 ， 工程师可以简单地将计算转化为针对该计算进行优化的电路 。 但是 ， 要设计用于多种类型计算的电路 ， 工程师必须预测哪种电路能够很好地完成各种任务 。 其中许多是事先未知的 。
人工智能芯片的商业化依赖于其通用功能的程度 。 GPU早已广泛商业化 ， FPGA也是如此 ， 只是程度较低 。 同时 ， 由于高设计成本和专业化驱动的低容量 ， ASIC更难以商业化 。 然而 ， 在通用芯片改进速度缓慢的时代 ， 专用芯片相对更经济 。 因为在下一代CPU达到相同的加速比或效率之前 ， 它具有更长的使用寿命 。 在当前CPU进步缓慢的时代 ， 如果一个AI芯片的速度提高了10-100倍 ， 那么只要1.5 - 8.3万的销量就足够让AI芯片变得经济 。 预计人工智能芯片市场规模的增长可能会创造规模经济 ， 这将使越来越窄的人工智能ASIC有利可图 。
人工智能芯片有不同的等级 ， 功能有强有弱 。 在高端 ， 服务器级人工智能芯片通常用于高端应用的数据中心 ， 在封装后 ， 比其他人工智能芯片更大 。 中端是消费者常用的PC级AI芯片 。 在低端 ， 移动人工智能芯片通常用于推理 ， 并集成到系统级芯片中 ， 该芯片还包括一个CPU 。 移动系统芯片需要小型化才能适合移动设备 。 在每一个级别 ， 人工智能芯片市场份额的增长都是以牺牲非人工智能芯片为代价的 。
超级计算机与人工智能的相关性有限 ， 但正在不断增强 。 最常见的是 ， 服务器级芯片分布在数据中心 ， 可以按顺序执行 ， 也可以在称为“网格计算”的设置中并行执行 。 超级计算机采用服务器级芯片 ， 将它们物理地放在一起并连接在一起 ， 并增加了昂贵的冷却设备以防止过热 。 这种设置提高了速度 ， 但大大降低了效率 ， 对于许多需要快速分析的应用程序来说 ， 这是一种可接受的折衷方案 。 目前很少有人工智能应用能证明更高速度的额外成本是合理的 。 但大型人工智能算法的训练或推理有时非常缓慢 ， 以至于只能使用超级计算机作为最后的手段 。 因此 ， 尽管CPU传统上一直是超级计算芯片的首选 ， 但人工智能芯片现在正在占据越来越大的份额 。 2018年 ， GPU承担了全球新增超级计算机计算能力的大部分 。


推荐阅读


上一篇：断触@最便宜骁龙865手机用户评价：性能强大，存发热和断触现象

下一篇：「设计」太好了，发现一种“隐藏”的对称，能为超材料的设计开辟新途径