江苏龙网

  1. 首页 > 资讯 > 科技 > >

处理器|获“AlphaGo之父”背书，英AI芯片独角兽正打入中国AI生态圈，IPU参与混战之中( 二 )


由于其庞大的顶点数量 ， 远超出现有最大 GPU 的规模数百倍 ， 这也意味着其在并行工作的处理潜力非常惊人 。 另外 ， 这些顶点都是稀疏的 ， 绝大多数顶点都只连结到其他一小部分顶点 。 另外 ， IPU 也是针对低精度的数据模型优化 ， 也就是具备数据的统计近似值概念 ， 这和过去超算的概念完全不同 。 另外 ， IPU 也支持了模型参数的复用 。 简单来说 ， 卷积是空间复用 ， 回归是时间复用 。 这些复用特性可以获取数据中的空间或时间不变性 ， 对于训练与推理的性能会有明显帮助 。
从整体上看 IPU ， 目前已经量产的是 GC2 处理器 ， 采用 TSMC 16nm 工艺 。 该处理器目前片内有 1216 个 IPU-Tiles ， 每个 Tile 中有独立的 IPU 核作为计算以及 In-Processor-Memory ， 即处理器之内的内存 。 所以对整个 GC2 来说 ， 共有 7296 个线程 ， 能够支持 7296 个程序并行运行 。 对整片来说 ， In-Processor-Memory 总共是 300 MB 。
据介绍 ， IPU 的整个设计思想是要把所有的模型放在片内处理 。
在各个核心之间的 BSP 同步 ， 能支持同一个 IPU 处理器之内 1216 个核心之间的通信 ， 以及跨不同的 IPU 之间做通信 。 这都是通过 BSP 的同步协议实现 ， 之间还有一个非常高速的 IPU exchange、8 TB/s 的多对多交换总线 。
另外 ， 在 IPU 和 IPU 之间还有 80 个 IPU-Links ， 构成 320 GB/s 的芯片与芯片之间的带宽 。 如此一来 ， 同一个处理器就同时支持了训练和推理 。
目前来看 ， IPU GC2 是世界上非常复杂的拥有 236 亿个晶体管的芯片处理器 ， 在 120 瓦的功耗下有 125TFlops 的混合精度、1216 个独立的处理器核心（Tile）、300M 的 SRAM 能够把完整的模型放在片内 ， 另外内存的带宽有 45 TB/s、片上交换 8 TB/s ， 片间的 IPU-Links 是 2.5 TB/s 。
而诸如 IPU GC2 有 1216 个核心（Tile）、7000 多个线程 ， 解决并行硬件的高效编程问题又是一个非常大的课题 。
为此 ， Graphcore 采用构建大规模数据中心集群的 BSP 技术（Bulk Synchronous Parallel） 。 该技术目前在谷歌、Facebook、百度这样的大规模数据中心内均已得到应用 。
因而 ， IPU 也是目前世界上第一款 BSP 处理器 ， 通过硬件能支持 BSP 协议 ， 并通过 BSP 协议把整个计算逻辑分成了计算、同步、交换 ， 对软件工程师或开发者来说十分友好 。
Graphcore 在 IPU 设计上应用了很多相当极端的想法 ， 虽然理论上以其规模应该更适合放到云端 ， 但 Graphcore 认为 IPU 架构拥有很好的伸缩性 ， 边缘或是终端计算同样能良好胜任 。
积极融入中国 AI 生态圈
技术以外 ， 和一些 AI 芯片公司其产品仍停留在 PPT 阶段不同 ， IPU 在 2018 年就已量产上市 。
目前 ， Graphcore 客户名单上已有微软、Citadel 和 Qwant 。 其中 ， 最为外界瞩目的公司还是科技巨头微软 。
近年来 ， 越来越多的科技巨头希望使用专门的人工智能硬件以加速数据中心 ， 对高性能计算芯片的需求正在迅速增长 。 我们耳熟能详的几个名字正在该领域进行积极的收购和合作 ， 例如 ， 英特尔就曾斥资 20 亿美元收购了 Graphcore 的竞争对手、以色列公司 Habana Labs 。

处理器|获“AlphaGo之父”背书，英AI芯片独角兽正打入中国AI生态圈，IPU参与混战之中
本文插图

显然 ， 对初创公司来说 ， 长期稳定的发展除了自身要有强大的实力外 ， 与外界的合作联系也十分必要 。
2019 年 11 月 ， Graphcore 宣布与微软达成合作 ， 在微软的云计算平台 Azure 上部署其 AI 处理器 。 此次合作不仅将增加 Graphcore 的AI芯片使用率 ， 还有可能扩大其客户群 。
2020 年 ， Graphcore 的一个重要目标是开拓中国市场 。
刚刚过去的 5 月 ， 其融入中国 AI 生态圈的诸多进展得以公布：在 OCP Global Summit 上 ， 阿里巴巴异构计算首席科学家张伟丰博士宣布了 Graphcore 支持 ODLA 的接口标准；在百度 Wave Summit 2020 上 ， 百度集团副总裁吴甜女士宣布 Graphcore 成为飞桨硬件生态圈的创始成员之一 ， 双方签署了倡议书 。


推荐阅读


上一篇：写客|突破！中兴已经有独立芯片设计的能力

下一篇：虎牙毒尊唯朕|入手小米10pro12+256版本