史上最友好的深度学习资料汇总

自从阿法狗赢了李世石,人工智能这个概念就从小众迅速走向大众,之后又战胜柯洁,各种“未来已来”的声音此起彼伏,火遍整个星球。

有很多未入门,想入门人工智能的童鞋很迷茫,不知道如何选学习资料,甚至还有的在抱怨学习资料太少。
其实,学习资料不是太少,而是太多,但是正好合适自己的太少。

首先要提的是3本书,中文读者的必读书目,按出版时间分别是
1.《统计机器方法》 作者是人工智能领军科学家 工业界大神 李航老师
2.《机器学习》(昵称 “瓜书”,也称西瓜书),作者是人工智能领军科学家 学术界大神 周志华教授
3.《深度学习》(昵称 “花书”,被誉为深度学习领域的圣经),英文版 原作者是 深度学习三始祖之一的 Yoshua Bengio 及其他两位超级大神,中译者是人工智能领军科学家 学术界大神 张志华老师及其得意弟子赵申剑 等人

对于选择学习资料,楼主有个观点,最优先的原则是“有问题能找到回答的人”,至少符合以下3个条件中的1个:

  1. 能联系到资料的作者
  2. 身边有朋友正在看(不久前看过)这些资料
  3. 经典书籍或权威资料,这样可以保障有最多的人群覆盖

如果各位童鞋同意上述观点,那么,好消息来啦,黄海广博士率领一众小伙伴整理了吴恩达教授的深度学习课(deeplearning.ai)

https://github.com/fengdu78/deeplearning_ai_books

deeplearning.ai 是当下最权威的入门课程之一,楼主的身边已经有多位小伙伴完成了通关任务。强烈建议童鞋们以这门课作为起点,进入人工智能这个前景无限的领域。

没梯子的优先看这里
https://mooc.study.163.com/course/2001281002#/info

有梯子的或者人肉翻出去的当然看这里
https://www.coursera.org/specializations/deep-learning

基础

基础分为两大类别,一类是深度学习,另一类是传统的机器学习。

最权威的零基础入门深度学习-deeplearningbook

英语好的童鞋直接从头开始看这个吧
http://www.deeplearningbook.org/

原版作者:
Yoshua Bengio(DL 三巨头之一), Ian Goodfellow(GAN 作者), Aaron Courville, MIT Press

PDF 版
https://github.com/HFTrader/DeepLearningBook

中译版
https://github.com/exacity/deeplearningbook-chinese
但是译者自己也建议大家阅读原版哦
从数学基础开始,到 CNN,主要目录如下:
Part I: Applied Math and Machine Learning Basics
2 Linear Algebra
3 Probability and Information Theory
4 Numerical Computation
5 Machine Learning Basics
Part II: Modern Practical Deep Networks
6 Deep Feedforward Networks
7 Regularization for Deep Learning
8 Optimization for Training Deep Models
9 Convolutional Networks
10 Sequence Modeling: Recurrent and Recursive Nets
11 Practical Methodology
12 Applications
Part III: Deep Learning Research
13 Linear Factor Models
14 Autoencoders
15 Representation Learning
16 Structured Probabilistic Models for Deep Learning
17 Monte Carlo Methods
18 Confronting the Partition Function
19 Approximate Inference
20 Deep Generative Models

微信官方支持的

http://course.fast.ai/start.html

韩老师的零基础入门深度学习系列

零基础入门深度学习(1) - 感知器

零基础入门深度学习(2) - 线性单元和梯度下降

零基础入门深度学习(3) - 神经网络和反向传播算法

零基础入门深度学习(4) - 卷积神经网络

零基础入门深度学习(5) - 循环神经网络

零基础入门深度学习(6) - 长短时记忆网络(LSTM)

零基础入门深度学习(7) - 递归神经网络

机器学习书单

李航老师的《统计学习方法》,也是忆臻兄弟的主要参考

以下两本书,是阿里的同学们正在看的

https://book.douban.com/subject/2061116/

https://book.douban.com/subject/10758624/

忆臻兄弟的传统机器学习系列

浅析感知机(一)– 模型与学习策略

浅析感知机(二)– 学习算法及Python代码剖析

浅析感知机(三)– 收敛性证明与对偶形式以及python代码讲解

详解梯度下降法的三种形式BGD,SGD以及MBGD

tensorflow 官方文档

[Getting Started With TensorFlow](Getting Started With TensorFlow)

IBM 的系列视频

通往智慧之路:IBM认知计算课程体系

IBM中国研究院认知计算系列课程从科研和产业相结合的角度,深入浅出地介绍了认知计算和人工智能技术的起源、发展和未来方向,以及机器学习和深度学习的基本、工具和应用。

坦白说,从教学设计的角度,略显不足。

进阶

一大波高质量论文,涵盖以下经典副本

MNIST

CIFAR-10

CIFAR-100

STL-10

SVHN

ILSVRC2012 task 1

高阶

以下推荐据说是祖神 Michael Jordan(为啥叫祖神?因为是多位大神 Bengio、吴恩达的老师)为想入他门下的骚年列出的书单

1.) Casella, G. and Berger, R.L. (2001). "Statistical Inference" Duxbury Press.

For a slightly more advanced book that's quite clear on mathematical techniques, the following book is quite good:

2.) Ferguson, T. (1996). "A Course in Large Sample Theory" Chapman & Hall/CRC.

You'll need to learn something about asymptotics at some point, and a good starting place is:

3.) Lehmann, E. (2004). "Elements of Large-Sample Theory" Springer.

Those are all frequentist books. You should also read something Bayesian:

4.) Gelman, A. et al. (2003). "Bayesian Data Analysis" Chapman & Hall/CRC.

and you should start to read about Bayesian computation:

5.) Robert, C. and Casella, G. (2005). "Monte Carlo Statistical Methods" Springer.

On the probability front, a good intermediate text is:

6.) Grimmett, G. and Stirzaker, D. (2001). "Probability and Random Processes" Oxford.

At a more advanced level, a very good text is the following:

7.) Pollard, D. (2001). "A User's Guide to Measure Theoretic Probability" Cambridge.

The standard advanced textbook is Durrett, R. (2005). "Probability: Theory and Examples" Duxbury.

Machine learning research also reposes on optimization theory. A good starting book on linear optimization that will prepare you for convex optimization:

8.) Bertsimas, D. and Tsitsiklis, J. (1997). "Introduction to Linear Optimization" Athena.

And then you can graduate to:

9.) Boyd, S. and Vandenberghe, L. (2004). "Convex Optimization" Cambridge.

Getting a full understanding of algorithmic linear algebra is also important. At some point you should feel familiar with most of the material in

10.) Golub, G., and Van Loan, C. (1996). "Matrix Computations" Johns Hopkins.

It's good to know some information theory. The classic is:

11.) Cover, T. and Thomas, J. "Elements of Information Theory" Wiley.

Finally, if you want to start to learn some more abstract math, you might want to start to learn some functional analysis (if you haven't already). Functional analysis is essentially linear algebra in infinite dimensions, and it's necessary for kernel methods, for nonparametric Bayesian methods, and for various other topics. Here's a book that I find very readable:

12.) Kreyszig, E. (1989). "Introductory Functional Analysis with Applications" Wiley.

GitHub 链接

https://github.com/MachineIntellect/DeepLearningEntryPoint/blob/master/DeepLearningEntryPoint.md

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335

推荐阅读更多精彩内容

  • 机器学习(Machine Learning)&深度学习(Deep Learning)资料(Chapter 1) 注...
    Albert陈凯阅读 22,176评论 9 476
  • ret = new Object();JSON.stringfy(ret);ret.toSource();
    chaosii阅读 577评论 0 0
  • 一、 我会用生命栽下两棵树 一棵在我遇见你时发芽 一棵在我爱上你后茂盛 二、 粉红色的,我猜是你的记忆 每每你一身...
    白发柿子阅读 210评论 0 0
  • 菜市是最准确的人间烟火。七仙女从云端往下看,应该是先看见菜市才看见董永的,没有菜市喧阗热闹的衬托董永孤单流泪的背影...
    薄阴天气阅读 205评论 0 0
  • 22.习惯了去清理屋里的灰尘,让自己和家人能舒适的生活。干净清爽,才能心情舒畅。也习惯了去清理手机里的垃圾,让手机...
    雪域飞燕阅读 244评论 0 3