中年|机器学习必读TOP 100论文清单:高引用、覆盖面广丨GitHub 21.4k星( 三 )


16、Improved techniques for training GANs (2016), T. Salimans et al.
http://papers.nips.cc/paper/6125-improved-techniques-for-training-gans.pdf
本文提出了可以用到GAN上的一些新的结构特征和训练过程 。 本文主要应用于半监督学习和生成视觉上真实的图像两个方向 。 使用这种方法 , 可以在MNIST , CIFAR10 , SVHN上达到很好的半监督效果 。
17、Unsupervised representation learning with deep convolutional generative adversarial networks (2015), A. Radford et al.
https://arxiv.org/pdf/1511.06434v2

这篇论文旨在帮助缩小监督学习和非监督学习成功运用于CNN上的差距 。 论文介绍了CNN的一个类 , 称为深度卷积生成对抗网络(DCGANs) , 这个网络有着明确的结构约束 , 并且表明他们对非监督学习有着强烈的可信度 。
18、DRAW: A recurrent neural network for image generation (2015), K. Gregor et al.
http://arxiv.org/pdf/1502.04623
本文介绍了深度递归书写器(DRAW)神经网络用于图像生成 。 DRAW网络是一种模仿人眼空间注意力机制的、带有视觉偏好性的可变自动编码框架 , 其主要功能是用于复杂图像的迭代构造 。
19、Generative adversarial nets (2014), I. Goodfellow et al.
http://papers.nips.cc/paper/5423-generative-adversarial-nets.pdf
GANs来了 。 论文提出了一个通过对抗过程估计生成模型的新框架 , 在新框架中同时训练两个模型:一个用来捕获数据分布的生成模型G , 和一个用来估计样本来自训练数据而不是G的概率的判别模型D , G的训练过程是最大化D产生错误的概率 。 在训练或生成样本期间不需要任何马尔科夫链或展开的近似推理网络 。
20、Auto-encoding variational Bayes (2013), D. Kingma and M. Welling
http://arxiv.org/pdf/1312.6114

AEV与GAN是现在生成网络中的两个趋势 。 文中引入了随机变分推理和学习算法 , 扩展到大数据集 , 并且可以在一些温和的差异性条件下、甚至某些棘手的情况下工作 。 论文表明 , 变分下界的重新参数化产生了可以使用标准随机梯度法直接优化的下限估计器 。
21、Building high-level features using large scale unsupervised learning (2013), Q. Le et al.
http://arxiv.org/pdf/1112.6209
GoogleBrain中特征学习的原理 , 通过使用未标记的图像学习人脸、猫脸high-level特征 , 得到检测器 。 文章使用大数据构建了一个9层的局部连接稀疏自编码网络 , 使用模型并行化和异步SGD在1000个机器(16000核)上训练了3天 , 结果显示 , 可以在未标记图像是否有人脸的情况下训练出一个人脸检测器 。
由于文章比较多 , 此处只介绍前20篇论文 , 除此之外 , 还有卷积神经网络模型、目标检测、视频图像处理、NLP算法、RNN模型、强化学习和机器人领域等近年来最经典的论文 。


推荐阅读