|北理工研二一作获杰出论文,大陆论文量前三,ICML 2020各奖项出炉( 二 )
本文插图
【|北理工研二一作获杰出论文,大陆论文量前三,ICML 2020各奖项出炉】个人主页：https://kxwei.net/
另外 ， 这篇论文的第一作者魏恺轩目前就读于北京理工大学 ， 是一名研二学生 。 研究兴趣为图像处理、计算机视觉、计算摄影学、计算成像学 ， 在 NEUCOM、CVPR、ICML 等会议上发表论文 。
杰出论文荣誉提名奖
本届杰出论文荣誉提名奖授予了两篇论文 ， 分别是帝国理工学院、圣彼得堡国立大学等研究者的《Efficiently sampling functions from Gaussian process posteriors》和 OpenAI 研究者的《Generative Pretraining from Pixels》 。
论文 1：Efficiently sampling functions from Gaussian process posteriors
本文插图
论文地址：https://arxiv.org/abs/2002.09309
论文作者：James T. Wilson（帝国理工学院） 、Viacheslav Borovitskiy（圣彼得堡国立大学）、Alexander Terenin（帝国理工学院）、Peter Mostowsky（圣彼得堡国立大学）、Marc Peter Deisenroth（伦敦大学学院）
该研究发现了一种高斯过程（Gaussian process）分解形式 ， 该分解通过从数据中分离出先验 ， 从而自然地进行可扩展采样 。 在这种因式分解的基础上 ， 研究者提出了一种易用且通用的快速后验采样方法 ， 该方法可以无缝匹配稀疏近似 ， 从而在训练和测试阶段保证可扩展性 。
该研究进行了一系列实验 ， 表明只需要通常成本的一部分即可利用解耦采样路径准确地表示高斯过程后验 。
论文 2：Generative Pretraining From Pixels
本文插图
论文地址：https://cdn.openai.com/papers/Generative_Pretraining_from_Pixels_V2.pdf
论文作者：Mark Chen、Alec Radford、Rewon Child、Jeff Wu、Heewoo Jun、Prafulla Dhariwal 、David Luan、Ilya Sutskever（均来自 OpenAI）
受自然语言无监督表示学习进展的启发 ， OpenAI 的研究者探究了类似模型是否可以学习图像的有用表示 。 具体来说 ， OpenAI 推出了用于图像分类的模型 iGPT ， 并发现该模型似乎能够理解物体外观和类别等 2D 图像特征 。 那么 ， iGPT 缘何能够成功呢？这是因为 ， 在下一像素预测（next pixel prediction）上训练的足够大的 transformer 模型最终可能学会生成具有清晰可识别物体的样本 。 一旦学会了生成此类样本 ， 那么通过「合成分析」 ， iGPT 将知道目标类别 。
实验表明 ， iGPT 模型的特征在大量的分类数据集上实现了当前 SOTA 性能 ， 以及在 ImageNet 数据集上实现了接近 SOTA 的无监督准确率 。
时间检验奖
ICML 大会时间检验奖旨在奖励对机器学习研究和实践有着巨大影响的论文 。 今年获得此奖项的是发表于 2009 年的论文《Gaussian Process Optimization in the Bandit Setting: No Regret and Experimental Design》 ， 目前这篇论文的被引用次数超过 1000 。
本文插图
论文地址：https://icml.cc/Conferences/2010/papers/422.pdf
这篇论文通过分析高斯过程赌博机优化（Gaussian process bandit optimization） ， 将贝叶斯优化、赌博机和实验设计进行融合 ， 进而提出了一种通过互信息增量推导有限样本 regret bound 的方法 。
过去十年中 ， 这篇论文对学界产生了深刻的影响 ， 包括该方法本身、所使用的证明方法和实际结果 。 这些点燃了其后大量研究和实践工作的创造性 ， 从而丰富了社区 。
推荐阅读
- windows系统|半年过去了：Win10 5月更新磁盘碎片整理工具问题依然存在
- 《麻省理工科技评论》|麻省理工科技评论等在杭州启动一“加速器”，瞄准智慧建筑
- windows系统|时至今日，Windows 10 v2004的磁盘碎片整理工具问题依然存在
- 智能机器人|麻省理工研究人员创造出带有软抓手的机器人 可轻松维护电缆
- 中年|麻省理工学院发明了人工智能芯片
- AI人工智能|高居榜首！大连理工大学科研再获重大突破，一举斩获国际冠军
- 科学|麻省理工学院研究出“压光器”，可降低激光中的量子噪声
- 供应链|什么是采购与供应链管理，如何做好采购与供应链管理工作？
- 绿捷环保|新型废弃电路板回收处理工艺
- 北京理工大学|@全球北理工人 | 薪火相传，点亮北理！