江苏龙网

  1. 首页 > 人文 > >

埃尔法哥哥|复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络，AI( 三 )


此外 ， 深度学习模型需要的计算机资源比较多 ， 一般需要在CPU和GPU之间不断进行切换 ， 开发难度也比较大 。 因此 ， 一些支持自动梯度计算、无缝CPU和GPU切换等功能的深度学习框架就应运而生 。
比较有代表性的框架包括：Caffe、TensorFlow、Pytorch、MXNet、飞桨（PaddlePaddle）等 。
埃尔法哥哥|复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络，AI
文章图片
1.Caffe：由加州大学伯克利分校开发的针对卷积神经网络的计算框架 ， 主要用于计算机视觉 。 Caffe用C++和Python实现 ， 但可以通过配置文件来实现所要的网络结构 ， 不需要编码 。 Caffe2已经被并入PyTorch中 。
2.TensorFlow：由Google公司开发的深度学习框架 ， 可以在任意具备CPU或者GPU的设备上运行 。 其计算过程使用数据流图来表示 。
TensorFlow的名字来源于其计算过程中的操作对象为多维数组 ， 即张量（Tensor） 。 TensorFlow1.0版本采用静态计算图 ， 2.0版本之后也支持动态计算图 。
3.PyTorch：由Facebook、NVIDIA、Twitter等公司开发维护的深度学习框架 ， 其前身为Lua语言的Torch4 。 PyTorch也是基于动态计算图的框架 ， 在需要动态改变神经网络结构的任务中有着明显的优势 。
4.飞桨（PaddlePaddle）：百度开发的一个高效和可扩展的深度学习框架 ， 同时支持动态图和静态图 。 飞桨提供强大的深度学习并行技术 ， 可以同时支持稠密参数和稀疏参数场景的超大规模深度学习并行训练 ， 支持千亿规模参数和数百个节点的高效并行训练 。
5.Chainer：一个最早采用动态计算图的深度学习框架 ， 其核心开发团队为来自日本的一家机器学习创业公司PreferredNetworks和Tensorflow、Theano、Caffe等框架使用的静态计算图相比 ， 动态计算图可以在运行时动态地构建计算图 ， 因此非常很适合进行一些复杂的决策或推理任务 。
6.MXNet：由亚马逊、华盛顿大学和卡内基梅隆大学等开发维护的深度学习框架 。 MXNet支持混合使用符号和命令式编程来最大化效率和生产率 ， 并可以有效地扩展到多个GPU和多台机器 。
7.Theano：由蒙特利尔大学的Python工具包 ， 用来高效地定义、优化和计算张量数据的数学表达式 。 Theano可以透明地使用GPU和高效的符号微分 。 Theano项目目前已停止维护 。
在这些基础框架之上 ， 还有一些建立在这些框架之上的高度模块化的神经网络库 ， 使得构建一个神经网络模型就像搭积木一样容易.其中比较有名的模块化神经网络框架有
基于TensorFlow和Theano的Keras8；
基于Theano的Lasagne9 。
【埃尔法哥哥|复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络，AI】本文摘编自复旦大学邱锡鹏教授的《神经网络与深度学习》 ， 经出版方授权发布 。 自2016年在复旦大学计算机学院开设了《神经网络与深度学习》这门课程后 ， 邱锡鹏老师的讲义便广为流传 。 经过4年的打磨 ， 这份让周志华、李航联袂推荐的实体书 ， 值得学习 。


推荐阅读


上一篇：汽车之家三星电子或为现代供应电池，续航800公里

下一篇：V科技之星AR和VR开发一款强大无线耳机，苹果公司又带来黑科技