江苏龙网

  1. 首页 > 人文 > >

埃尔法哥哥|复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络，AI


埃尔法哥哥|复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络，AI
文章图片
作者：邱锡鹏
编者按
近些年 ， 随着AI领域的快速发展 ， 该领域的的相关技术也受到大家广泛的关注 ， 深度学习作为机器学习的一个分支 ， 在图像、自然语言等方面有不错的应用 ， 是近几年炙手可热的研究领域 。 深度学习的理论支撑是强大的数学分析 ， 对其的学习要抱有“路漫漫其修远兮 ， 吾将上下而求索”的态度 。 本文可以让初学者概况性的了解深度学习领域 ， 以便跟上这如火如荼的发展趋势 。
寄语：本文梳理了深度学习知识体系 ， 分为机器学习、神经网络和概率图模型 ， 同时对机器学习算法类型、深度学习原理框架等进行了梳理 ， 帮助大家更好地学习和入手深度学习 。
深度学习是机器学习的分支 ， 是一种以人工神经网络为架构 ， 对数据进行表征学习的算法 。 深度学习在搜索技术 ， 数据挖掘 ， 机器学习 ， 机器翻译 ， 自然语言处理等多个领域都取得了卓越的成果 ， 可见其重要性 ， 本文将通过梳理知识体系脉络帮助大家深入浅出了解深度学习 。
深度学习知识体系
下图梳理了神经网络和深度学习所涉及的知识体系 。 该知识体系可以分为三大块：机器学习、神经网络和概率图模型 。
1.机器学习
机器学习可以分为监督学习、无监督学习和强化学习 。 机器学习的基本概念以及三要素为：模型、学习准则和优化算法 。 深度学习是机器学习的分支 ， 机器学习分为监督学习、无监督学习及强化学习三个方向 ， 具体内容在下文中会详细介绍 。
2.神经网络
神经网络作为一类非线性的机器学习模型 ， 可以更好地实现输入和输出之间的映射 。 关于神经网络 ， 需要掌握其优化和正则化方向 ， 注意力机制和外部记忆 。 神经网络包含三种主要的神经网络模型：
前馈神经网络；
卷积神经网络；
循环神经网络 。 目前 ， 越来越多人也投入到图神经网络中的研究中来 。
3.概率图模型
概率图模型为机器学习提供了一个更加便捷的描述框架.其基本概念包括模型表示、学习和推断.目前深度学习和概率图模型的融合已经十分流行.其中 ， 比较重要的图模型有：
两种概率图模型：玻尔兹曼机和深度信念网络；
两种概率生成模型：深度生成模型和序列生成模型 。
机器学习算法类型
机器学习算法可以按照不同的标准来进行分类：
按照函数(;)的不同 ， 分为线性模型和非线性模型；
按照学习准则的不同 ， 分为统计方法和非统计方法 。
但一般来说 ， 按照训练样本提供的信息以及反馈方式的不同 ， 将机器学习算法分为以下几类：
1.监督学习（SupervisedLearning）
如果机器学习的目标是通过建模样本的特征和标签之间的关系：=(;)或(|;) ， 并且训练集中每个样本都有标签 ， 那么这类机器学习称为监督学习 。
根据标签类型的不同 ， 监督学习又可以分为回归问题、分类问题和结构化学习问题.
回归（Regression）问题中的标签是连续值（实数或连续整数） ， (;)的输出也是连续值 。
分类（Classification）问题中的标签是离散的类别（符号）.在分类问题中 ， 学习到的模型也称为分类器（Classifier）.分类问题根据其类别数量又可分为二分类（BinaryClassification）和多分类（Multi-classClassification）问题 。
结构化学习（StructuredLearning）问题的输出通常是结构化的对象 ， 比如序列、树或图等.结构化学习可以看作是一种特殊的分类问题.由于结构化学习的输出空间比较大 ， 因此我们一般定义一个联合特征空间 ， 将,映射为该空间中的联合特征向量(,) ， 预测模型可以写为：其中Gen()表示输入的所有可能的输出目标集合 。 一种基于感知器的结构化学计算argmax的过程也称为解码（Decoding）过程 ， 一般通过动态规划的方法来计算.


推荐阅读


上一篇：汽车之家三星电子或为现代供应电池，续航800公里

下一篇：V科技之星AR和VR开发一款强大无线耳机，苹果公司又带来黑科技