机器之心AI算法效率每16个月翻番，超越摩尔定律，OpenAI：长江后浪推前浪( 二 )
作为总体基准测试的一部分 ， OpenAI 首先进行视觉和机器翻译效率基准测试 ， 特别是在 ImageNet 和 WMT14 数据集 ， 并且之后会添加更多的基准方法 。 不允许出现人工标签、其他图像或数据 ， 但对用于翻译或扩增增强的训练数据不会施加任何限制 。
【机器之心AI算法效率每16个月翻番，超越摩尔定律，OpenAI：长江后浪推前浪】
本文插图
从 ImageNet 数据集上的 79.1% top-5 准确率来看 ， 从 2012 年的 AlexNet 到 2019 年的 EfficientNet ， 算力提升了 44 倍之多 。
本文插图
从 WMT-14 EN-FR 数据集上的 34.8 BLEU 来看 ， 从 2014 年的 Seq2Seq(Ensemble) 到 2017 年的 Transformer(base) ， 算力提升了 61 倍 。
算力、算法相结合 ， 继续加大 AI 算法效率的研究投入
OpenAI 表示：「业界领袖、政策制定者、经济学家和潜在的研究人员都力图更深刻地理解 AI 进展 ， 并决定他们应该投入多少以及这些投入的未来走向 。 AI 模型效率的基准测试正好可以帮助他们做出正确的决策 。 」
AI 算法的效率提升虽然可观 ， 但相对于呈指数增长的新算法参数数量来讲还是显得不够 。 OpenAI 研究人员提出的「有效计算」概念把算力和算法的提升结合了起来 ， 我们可以直观地看到各领域对于人工智能发展的贡献：
本文插图
看起来 ， 并行计算和芯片制程的提升加起来还是占大头 。 但正如研究人员得出的结论：我们需要加大对于 AI 算法效率研究的投入 。
推荐阅读
- 机器人|深圳机器人产业产值1257亿元
- |《5G技术助力国产机器人完成全球首场骨科实时远程手术》公示材料
- 美军事进行时|五角大楼研制挖隧道的蚯蚓机器人为地面部队提供安全补给
- cnBetaTB|看机器人如何制作出既有颜值又美味的蛋饼
- 山东伟豪思|袋料全自动拆垛机器人的使用给企业带来了哪些益处
- 无人机这两项机器人发明，就是东京大学进军外卖界的野心！？
- 搜狐新闻|【复材资讯】碳纤维机器人手臂设计需要考虑的要素
- SILVER六足龙虾机器人成海底“清洁工”，可下潜200米续航16小时
- 新智元|机器学习团队常用工具总结，人生苦短，我用Python！
- 机器人5G+AI助力科技抗疫 各路机器人大显身手