江苏龙网

  1. 首页 > 人文 > >

『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源( 二 )


『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 2：Feedback-phase Leaderboard 榜单
『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 3：Final-phase Leaderboard 榜单
『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 4：Final-phase Leaderboard 可视化
核心技术解析
『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 5：AutoDL 竞赛工作流
深度赋智的核心技术在于其独立研发的 Fully Automatic Machine Learning（后文简称 Full-AutoML / 全自动机器学习）系统 ， 这套系统量化了 AI 生产的所有环节 ， 可以全自动、端到端地生产全流程 AI ， 摆脱了以往的 AI 设计需要诸多人类经验、难以快速落地的约束 。
以往基于人类 AI 工程师的简单 AI 生产过程需要 3-6 个月 ， 复杂 AI 生产过程需要 1-2 年 ， 而 Full-AutoML 接入数据之后最短几十秒就可以构建出一套近似最优的端到端 AI ， 并且随着线上反馈数据 ， 可以不断对 AI 持续优化 。
Full-AutoML 具体是怎么实现的？我们展开来讲：
一名人类 AI 工程师需要在单个领域进行持续数年的学习、摸索 ， 随着接触数据集的增多、掌握技巧的增多、对整体流程的积累 ， 才能在单个领域下获得较好效果 。
与人类 AI 工程师类似 ， Full-AutoML 需要接触较多的学习任务 ， 以掌握在不同任务上的共性与特异性技巧 。 其中 MetaAI 子系统模拟了人类 AI 工程师的学习过程 ， 通过观察已有任务的数据流形与策略效果 ， 以进行全自动的探索性优化 。 经过观察 ， MetaAI 可以很好地总结不同任务知识 ， 将原本耗时数年的 AI 构建过程缩短到最短数十秒 。
『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 6：DeepWisdom MetaAI for AutoDL
进一步的 ， 这套系统包含自动数据探索、自动数据处理、自动特征工程、自动模型搜索、自动模型设计、自动模型压缩、自动超参优化、自动集成等多项核心组件 ， 内含 Few-shot Learning 小样本学习、Weakly supervised learning 弱监督学习、Transfer Learning 迁移学习、Ensemble Learning 集成学习等多类特性 。
『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源
本文插图
图 7：深度赋智 AutoML
值得注意的是 ， 深度赋智产品矩阵已开发的自动内容理解系统 ， 能较好处理本次竞赛涉及的包含结构化和非结构化数据分类任务 ， 该系统已经在智能搜索、智能推荐、智能决策等场景发挥了核心作用 。 此外 ， 核心产品自动信息分发系统 AutoDist（包含自动搜索系统 AutoSearch、自动推荐系统 AutoRecsys）以及自动决策系统 AutoTables 已为若干客户带来显著业绩提升 ， 可以为交易平台提升 40%-60% 的核心效果 ， 助力平台节本提效 。 深度赋智将在 MetaAI 和 Full-AutoML 道路上继续探索 ， 为更多企业客户快速节本提效、创造利润 。
深度赋智团队已在若干顶级国际 AI 竞赛中获得诸多荣誉 ， 包括 KDD 2019 AutoML/ACML 2019 AutoSpeech/PKDD 2019 AutoCV2/ACML 2019 AutoWSL 等竞赛的单项/总分第一 。
深度赋智及其学术团队在协同学习/NAS/深度强化学习等领域的 100 余篇相关论文发表于 KDD、PAMI、NIPS、CVPR、ACL、AAAI、IJCAI、SIGIR、MM 等顶会顶刊上 ， 构成了 Full-AutoML 的核心积累 。
【『深度学习』解读NeurIPS-AutoDL 总决赛冠军解决方案，代码已开源】


推荐阅读


上一篇：硬顶科技@小米全新代步车上线，首发价1999元，一升级科技感十足

下一篇：##绝美配色+人眼追焦：华为nova7系列海报泄出新机实锤