18亿像素火星全景究竟什么情况?18亿像素火星全景具体情况( 二 )


3、 强化学习训练趋向于线上规划学习动态模型
谷歌训练的强化学习网络 PlaNet可以从图像中学习环境动态信息 , 并通过准确预测数个时间段后的奖励进行线上规划 , 选择将要进行的动作 。 这种训练方式与最先进的 A3C 和 D4PG 算法相比 , 在训练时间大致相同的情况 , 使模拟环境交互作用减少了50倍(表 1) 。 经过 2000 张图像训练之后 , PlaNet 的表现与受过10万张图像训练的 D4PG 算法基本相似 。
表 1: PlaNet 模型与其他模型训练效果对比表
18亿像素火星全景究竟什么情况?18亿像素火星全景具体情况
文章图片

(二)机器学习在生命科学领域发现新应用
1、 AlphaFold模型预测蛋白质的 3D 结构
DeepMind 公司训练的 AlphaFold 能够使两个深度卷积神经网络协同工作 ,第一个神经网络预测氨基酸对之间的距离 , 第二个神经网络预测连接这些氨基酸的化学键之间的角度 , 并创建蛋白
质距离图来生成 3D 蛋白质结构 。 该方法在预测蛋白质 3D 结构上远远超过先前最先进水平 ,给未来机器学习在生物学方面的广泛应用指明了方向 。
2、 机器学习算法合成化学分子
上海大学马克·沃勒(Mark Waller) 教授团队同时使用三种不同的神经网络并结合蒙特卡洛树搜索组成了 3N-MCTS 算法 。 3N-MCTS 算法通过提出有限数量的自动提取转换将搜索引向最
正确的方向 , 并预测拟议的反应是否真正可行 。 在化学分子合成方面 ,3N-MCTS 算法可解算 80%以上的分子测试集 , 每个目标分子的时间限制为 5 秒 , 与现有先进的计算机辅助合成规划相比 ,
合成速度大大提升 。
【18亿像素火星全景究竟什么情况?18亿像素火星全景具体情况】3、 深度学习与医学融合加深
随着深度学习、计算机视觉等技术的发展 , 人工智能被越来越多的应用于眼部疾病、心脏疾病的诊断 。 基于 3D U-Net架构的神经网络可以进行数字光学计算机断层摄影扫描 , 并创建眼睛的“组织图” , 并通过该组织图对患者病症进行种类和严重性的分级分类 。 另外 ,接受过 5.4 万名患者训练的端到端深度学习网络在心脏病诊断领域已经达到人类专家级水平 , 以门诊中的单导联心电图轨迹作为原始数据 ,深度学习网络已经可以成功分辨12种心律类别 。
4、脑机接口成为发展热点
哥伦比亚大学的研究人员通过深度学习技术分析癫痫患者在连续收听语音时的脑经神信号 ,能够对病人想要表达内容进行语音合成 , 准确度达到 75% 。 另外 ,神经网络被证明可恢复残疾人士的肢体控制能力 。研究人员根据从患者大脑记录的原始颅内电压信号对神经网络进行训练 , 神经网络可以判断手臂的预期活动 , 并使用电刺激和神经网络解码器永久恢复四肢瘫痪患者前臂的运动能力 。 相比于支持向量机(SVM) 技术 , 神经网络方法对故障更具鲁棒性 ,并可以通过迁移学习技术使患者掌握新的动作 。
(三) 自然语言处理实现突破式发展
1、 预训练语言模型
谷歌 BERT 模型、艾伦研究所 ELMo 模型、 鲁德和霍华德ULMFiT 模型和微软 MT-DNN 模型纷纷证明预训练语言模型可大大提高各种自然语言处理任务的性能 。通过使用网络上的未标记文本对神经网络进行训练 ,可以在自然语言处理任务中创造收益 , 并创建多种新的商业应用程序 , 就像 ImageNet 迁移学习驱动了计算机视觉的更多工业应用一样 。
2、无双语语料情况下的机器翻译
脸书(Facebook) 展示了如何充分利用单语数据 , 以扩大机器翻译的应用范围 。该技术首先通过自动推断双语词典将模型初始化 , 并利用去噪自动编码器来充分利用较强的语言模型 , 其中 , 由编码器构建的表征只能在当前两种翻译语言之间共享 。这项工作将若干原理应用于开发简单易懂的、基于短语的统计型机器翻译(PBSMT)系统和神经机器翻译(NMT)系统 , 神经机器翻译系统学习如何在无双语文本的情况下进行翻译 。


推荐阅读