深度解析Python深度学习框架的比照

从PyTorch到Mxnet ，比照这些Python深度学习框架。选择什么深度学习框架一直是开发者非常关心的一个话题，而且深度学习框架之间的「战争」也越来越激烈。随着 Python 逐步成为机器学习社区最受欢迎的语言，支持 Python 的深度学习框架的性能也值得关注。Indico Data Solutions 的 CTO Madison May 根据他们公司在产品和开发过程中的经验对 Python 深度学习框架进行了比照，希望这篇文章能对读者有所帮助。

image

Python 深度学习生态系统在这几年中的演变实属惊艳。pylearn2，已经不再被积极地开发或者者维护，大量的深度学习库开始接替它的位置。这些库每一个都各有千秋。我们已经在 indico 的产品或者者开发中使用了以下列表中的大部分的技术，但是对于剩下少量我们没有使用的，我将会借鉴他人的经验来帮助给出 Python 深度学习生态系统的清晰的、详尽的了解。

确切地说，我们将会关注：

Theano

Lasagne

Blocks

TensorFlow

Keras

MXNet

PyTorch

下面是对这 7 大 Python 深度学习框架的形容以及优缺点的详情。

Theano

形容：Theano 是一个 Python 库，允许你定义、优化并且有效地评估涉及到多维数组的数学表达式。它与 GPUs 一起工作并且在符号微分方面体现优秀。

概述：Theano 是数值计算的主力，它支持了许多我们列表当中的其余的深度学习框架。Theano 由 Frédéric Bastien 创立，这是蒙特利尔大学机器学习研究所(MILA)背后的一个非常优秀的研究团队。它的 API 水平较低，并且为了写出效率高的 Theano，你需要对隐藏在其余框架幕后的算法相当的熟习。假如你有着丰富的学术机器学习知识，正在寻觅你的模型的精细的控制方法，或者者想要实现一个新奇的或者者不同寻常的模型，Theano 是你的首选库。总而言之，为了灵活性，Theano 牺牲了易用性。

优点：

灵活

正确使用时的高性能

缺点：

较高的学习难度

低水平的 API

编译复杂的符号图可能很慢

Lasagne

形容：在 Theano 上建立和训练神经网络的轻量级库

概述：由于 Theano 致力于成为符号数学中最先且最好的库，Lasagne 提供了在 Theano 顶部的笼统，这使得它更适合于深度学习。它主要由当前 DeepMind 研究科学家 Sander Dieleman 编写并维护。Lasagne 并非是根据符号变量之间的函数关系来指定网络模型，而是允许客户在层级思考，为客户提供了例如「Conv2DLayer」和「DropoutLayer」的构建块。Lasagne 在牺牲了很少的灵活性的同时，提供了丰富的公共组件来帮助图层定义、图层初始化、模型正则化、模型监控和模型训练。

优点：

依旧非常灵活

比 Theano 更高级的笼统

文档和代码中包含了各种 Pasta Puns

缺点：

社区小

Blocks

形容：用于构建和训练神经网络的 Theano 框架

概述：与 Lasagne 相似，Blocks 是在 Theano 顶部增加一个笼统层使深度学习模型比编写原始的 Theano 更清晰、更简单、定义更加标准化。它是由蒙特利尔大学机器学习研究所(MILA)编写，其中少量人为搭建 Theano 和第一个神经网络定义的高级接口(已经淘汰的 PyLearn2)贡献了自己的一份力量。比起 Lasagne，Blocks 灵活一点，代价是入门台阶较高，想要高效的使用它有不小的难度。除此之外，Blocks 对递归神经网络架构(recurrent neural network architectures)有很好的支持，所以假如你有兴趣探究这种类型的模型，它值得一看。除了 TensorFlow，对于许多我们已经部署在 indico 产品中的 API，Blocks 是其首选库。

优点：

依旧非常灵活

比 Theano 更高级的笼统

易于测试

缺点：

较高的学习难度

更小的社区

TensorFlow

形容：用于数值计算的使用数据流图的开源软件库

概述：TensorFlow 是较低级别的符号库(比方 Theano)和较高级别的网络规范库(比方 Blocks 和 Lasagne)的混合。即便它是 Python 深度学习库集合的最新成员，在 Google Brain 团队支持下，它可能已经是最大的活跃社区了。它支持在多 GPUs 上运行深度学习模型，为高效的数据流水线提供使用程序，并具备用于模型的检查，可视化和序列化的内置板块。最近，TensorFlow 团队决定支持 Keras(我们列表中下一个深度学习库)。尽管 TensorFlow 有着自己的缺点，但是社区似乎同意这一决定，社区的庞大规模和项目背后巨大的动力意味着学习 TensorFlow 是一次安全的赌注。因而，TensorFlow 是我们今天在 indico 选择的深度学习库。

优点：

由软件巨头 Google 支持

非常大的社区

低级和高级接口网络训练

比基于 Theano 配置更快的模型编译

完全地多 GPU 支持

缺点：

尽管 Tensorflow 正在追赶，但是最初在许多基准上比基于 Theano 的慢。

RNN 支持仍不如 Theano

Keras

形容：Python 的深度学习库。支持 Convnets、递归神经网络等。在 Theano 或者者 TensorFlow 上运行。

概述：Keras 也许是水平最高，对客户最友好的库了。由 Francis Chollet(Google Brain 团队中的另一个成员)编写和维护。它允许客户选择其所构建的模型是在 Theano 上或者是在 TensorFlow 上的符号图上执行。Keras 的客户界面受启发于 Torch，所以假如你以前有过使用 Lua 语言的机器学习经验，Keras 绝对值得一看。因为部分非常优秀的文档和其相对易用性，Keras 的社区非常大并且非常活跃。最近，TensorFlow 团队宣布计划与 Keras 一起支持内置，所以很快 Keras 将是 TensorFlow 项目的一个分组。

优点：

可供选择的 Theano 或者者 TensorFlow 后台

直观、高级别的端口

更易学习

缺点：

不太灵活，比其余选择更规范

MXNet

形容：MXNet 是一个旨在提高效率和灵活性的深度学习框架。

概述：MXNet 是亚马逊(Amazon)选择的深度学习库，并且也许是最优秀的库。它拥有相似于 Theano 和 TensorFlow 的数据流图，为多 GPU 配置提供了良好的配置，有着相似于 Lasagne 和 Blocks 更高级别的模型构建块，并且可以在你可以想象的任何硬件上运行(包括手机)。对 Python 的支持只是其冰山一角—MXNet 同样提供了对 R、Julia、C++、Scala、Matlab，和 Javascript 的接口。假如你正在寻觅最佳的性能，选择 MXNet 吧，但是你必需愿意解决与之相对的少量 MXNet 的怪癖。

优点：

速度的标杆

非常灵活

缺点：

最小的社区

比 Theano 更困难的学习难度

PyTorch

形容：Python 中的张量(Tensors)和动态神经网络，有着强大的 GPU 加速。

概述：刚刚放出一段时间，PyTorch 就已经是我们 Python 深度学习框架列表中的一个新的成员了。它是从 Lua 的 Torch 库到 Python 的松散端口，因为它由 Facebook 的 人工智能研究团队(Artificial Intelligence Research team (FAIR))支持且由于它用于解决动态计算图(Theano，TensorFlow 或者者其余衍生品没有的特性，编译者注：现在 TensorFlow 如同支持动态计算图)，它变得非常的有名。PyTorch 在 Python 深度学习生态系统将扮演怎么的角色还不得而知，但所有的迹象都表明，PyTorch 是我们列表中其余框架的一个非常棒的选择。

优点:

来自 Facebook 组织的支持

完全地对动态图的支持

高级和低级 API 的混合

缺点：

比其余选择，PyTorch 还不太成熟

这里有我自己整理了一套最新的python系统学习教程，包括从基础的python脚本到web开发、爬虫、数据分析、数据可视化、机器学习等。送给正在学习python的小伙伴！这里是python学习者聚集地，欢迎初学和进阶中的小伙伴！
小编的交流群：556370268

image