《深度學(xué)習(xí)入門(mén)基于Python的理論與實(shí)現(xiàn)》
前言　xv
第1章Python入門(mén)　1
1．1　Python是什么　1
1．2　Python的安裝　2
1．3　Python解釋器　4
1．4　Python腳本文件　9
1．5　NumPy　11
1．6　Matplotlib　16
1．7　小結(jié)　19
第2章感知機(jī)　21
2．1　感知機(jī)是什么　21
2．2　簡(jiǎn)單邏輯電路　23
2．3　感知機(jī)的實(shí)現(xiàn)　25
2．4　感知機(jī)的局限性　28
2．5　多層感知機(jī)　31
2．6　從與非門(mén)到計(jì)算機(jī)　35
2．7　小結(jié)　36
第3章神經(jīng)網(wǎng)絡(luò)　37
3．1　從感知機(jī)到神經(jīng)網(wǎng)絡(luò)　37
3．2　激活函數(shù)　42
3．3　多維數(shù)組的運(yùn)算　50
3．4　3層神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)　56
3．5　輸出層的設(shè)計(jì)　63
3．6　手寫(xiě)數(shù)字識(shí)別　69
3．7　小結(jié)　79
第4章神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)　81
4．1　從數(shù)據(jù)中學(xué)習(xí)　81
4．2　損失函數(shù)　85
4．3　數(shù)值微分　94
4．4　梯度　100
4．5　學(xué)習(xí)算法的實(shí)現(xiàn)　109
4．6　小結(jié)　118
第5章誤差反向傳播法　121
5．1　計(jì)算圖　121
5．2　鏈?zhǔn)椒▌t　126
5．3　反向傳播　130
5．4　簡(jiǎn)單層的實(shí)現(xiàn)　135
5．5　激活函數(shù)層的實(shí)現(xiàn)　139
5．6　Affine/Softmax層的實(shí)現(xiàn)　144
5．7　誤差反向傳播法的實(shí)現(xiàn)　154
5．8　小結(jié)　161
第6章與學(xué)習(xí)相關(guān)的技巧　163
6．1　參數(shù)的更新　163
6．2　權(quán)重的初始值　176
6．3　BatchNormalization　184
6．4　正則化　188
6．5　超參數(shù)的驗(yàn)證　195
6．6　小結(jié)　200
第7章卷積神經(jīng)網(wǎng)絡(luò)　201
7．1　整體結(jié)構(gòu)　201
7．2　卷積層　202
7．3　池化層　214
7．4　卷積層和池化層的實(shí)現(xiàn)　216
7．5　CNN的實(shí)現(xiàn)　224
7．6　CNN的可視化　228
7．7　具有代表性的CNN　231
7．8　小結(jié)　233
第8章深度學(xué)習(xí)　235
8．1　加深網(wǎng)絡(luò)　235
8．2　深度學(xué)習(xí)的小歷史　242
8．3　深度學(xué)習(xí)的高速化　248
8．4　深度學(xué)習(xí)的應(yīng)用案例　253
8．5　深度學(xué)習(xí)的未來(lái)　258
8．6　小結(jié)　264
附錄A　Softmax-with-Loss層的計(jì)算圖　267
A．1　正向傳播　268
A．2　反向傳播　270
A．3　小結(jié)　277
參考文獻(xiàn)　279

《深度學(xué)習(xí)的數(shù)學(xué)》
第1章　神經(jīng)網(wǎng)絡(luò)的思想
1-1　神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)2
1-2　神經(jīng)元工作的數(shù)學(xué)表示6
1-3　激活函數(shù)：將神經(jīng)元的工作一般化12
1-4　什么是神經(jīng)網(wǎng)絡(luò)18
1-5　用惡魔來(lái)講解神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)23
1-6　將惡魔的工作翻譯為神經(jīng)網(wǎng)絡(luò)的語(yǔ)言31
1-7　網(wǎng)絡(luò)自學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)36
第2章　神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)基礎(chǔ)
2-1　神經(jīng)網(wǎng)絡(luò)所需的函數(shù)40
2-2　有助于理解神經(jīng)網(wǎng)絡(luò)的數(shù)列和遞推關(guān)系式46
2-3　神經(jīng)網(wǎng)絡(luò)中經(jīng)常用到的Σ符號(hào)51
2-4　有助于理解神經(jīng)網(wǎng)絡(luò)的向量基礎(chǔ)53
2-5　有助于理解神經(jīng)網(wǎng)絡(luò)的矩陣基礎(chǔ)61
2-6　神經(jīng)網(wǎng)絡(luò)的導(dǎo)數(shù)基礎(chǔ)65
2-7　神經(jīng)網(wǎng)絡(luò)的偏導(dǎo)數(shù)基礎(chǔ)72
2-8　誤差反向傳播法必需的鏈?zhǔn)椒▌t76
2-9　梯度下降法的基礎(chǔ)：多變量函數(shù)的近似公式80
2-10　梯度下降法的含義與公式83
2-11　用Excel體驗(yàn)梯度下降法91
2-12　最優(yōu)化問(wèn)題和回歸分析94
第3章　神經(jīng)網(wǎng)絡(luò)的最優(yōu)化
3-1　神經(jīng)網(wǎng)絡(luò)的參數(shù)和變量102
3-2　神經(jīng)網(wǎng)絡(luò)的變量的關(guān)系式111
3-3　學(xué)習(xí)數(shù)據(jù)和正解114
3-4　神經(jīng)網(wǎng)絡(luò)的代價(jià)函數(shù)119
3-5　用Excel體驗(yàn)神經(jīng)網(wǎng)絡(luò)127
第4章　神經(jīng)網(wǎng)絡(luò)和誤差反向傳播法
4-1　梯度下降法的回顧134
4-2　神經(jīng)單元誤差141
4-3　神經(jīng)網(wǎng)絡(luò)和誤差反向傳播法146
4-4　用Excel體驗(yàn)神經(jīng)網(wǎng)絡(luò)的誤差反向傳播法153
第5章　深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)
5-1　小惡魔來(lái)講解卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)168
5-2　將小惡魔的工作翻譯為卷積神經(jīng)網(wǎng)絡(luò)的語(yǔ)言174
5-3　卷積神經(jīng)網(wǎng)絡(luò)的變量關(guān)系式180
5-4　用Excel體驗(yàn)卷積神經(jīng)網(wǎng)絡(luò)193
5-5　卷積神經(jīng)網(wǎng)絡(luò)和誤差反向傳播法200
5-6　用Excel體驗(yàn)卷積神經(jīng)網(wǎng)絡(luò)的誤差反向傳播法212
附錄　
A　訓(xùn)練數(shù)據(jù)（1）222
B　訓(xùn)練數(shù)據(jù)（2）223
C　用數(shù)學(xué)式表示模式的相似度225

《Python深度學(xué)習(xí)》
第一部分　深度學(xué)習(xí)基礎(chǔ)
第1章什么是深度學(xué)習(xí)　2
1.1　人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)　2
1.2　深度學(xué)習(xí)之前：機(jī)器學(xué)習(xí)簡(jiǎn)史　11
1.3　為什么是深度學(xué)習(xí)，為什么是現(xiàn)在　15
第2章神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)基礎(chǔ)　20
2.1　初識(shí)神經(jīng)網(wǎng)絡(luò)　20
2.2　神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)表示　23
2.3　神經(jīng)網(wǎng)絡(luò)的“齒輪”：張量運(yùn)算　29
2.4　神經(jīng)網(wǎng)絡(luò)的“引擎”：基于梯度的優(yōu)化　36
2.5　回顧第一個(gè)例子　41
本章小結(jié)　42
第3章　神經(jīng)網(wǎng)絡(luò)入門(mén)　43
3.1　神經(jīng)網(wǎng)絡(luò)剖析　43
3.2　Keras簡(jiǎn)介　46
3.3　建立深度學(xué)習(xí)工作站　49
3.4　電影評(píng)論分類(lèi)：二分類(lèi)問(wèn)題　51
3.5　新聞分類(lèi)：多分類(lèi)問(wèn)題　59
3.6　預(yù)測(cè)房?jī)r(jià)：回歸問(wèn)題　66
本章小結(jié)　73
第4章　機(jī)器學(xué)習(xí)基礎(chǔ)　74
4.1　機(jī)器學(xué)習(xí)的四個(gè)分支　74
4.2　評(píng)估機(jī)器學(xué)習(xí)模型　76
4.3　數(shù)據(jù)預(yù)處理、特征工程和特征學(xué)習(xí)　80
4.4　過(guò)擬合與欠擬合　83
4.5　機(jī)器學(xué)習(xí)的通用工作流程　89
本章小結(jié)　92
第二部分　深度學(xué)習(xí)實(shí)踐
第5章　深度學(xué)習(xí)用于計(jì)算機(jī)視覺(jué)　94
5.1　卷積神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介　94
5.2　在小型數(shù)據(jù)集上從頭開(kāi)始訓(xùn)練一個(gè)卷積神經(jīng)網(wǎng)絡(luò)　102
5.3　使用預(yù)訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)　115
5.4　卷積神經(jīng)網(wǎng)絡(luò)的可視化　130
本章小結(jié)　146
第6章　深度學(xué)習(xí)用于文本和序列　147
6.1　處理文本數(shù)據(jù)　147
6.2　理解循環(huán)神經(jīng)網(wǎng)絡(luò)　162
6.3　循環(huán)神經(jīng)網(wǎng)絡(luò)的高級(jí)用法　172
6.4　用卷積神經(jīng)網(wǎng)絡(luò)處理序列　188
本章總結(jié)　195
第7章　高級(jí)的深度學(xué)習(xí)最佳實(shí)踐　196
7.1　不用Sequential模型的解決方案：Keras函數(shù)式API　196
7.2　使用Keras回調(diào)函數(shù)和TensorBoard來(lái)檢查并監(jiān)控深度學(xué)習(xí)模型　210
7.3　讓模型性能發(fā)揮到極致　219
本章總結(jié)　225
第8章　生成式深度學(xué)習(xí)　226
8.1　使用LSTM生成文本　227
8.2　DeepDream　235
8.3　神經(jīng)風(fēng)格遷移　241
8.4　用變分自編碼器生成圖像　249
8.5　生成式對(duì)抗網(wǎng)絡(luò)簡(jiǎn)介　257
本章總結(jié)　264
第9章　總結(jié)　265
9.1　重點(diǎn)內(nèi)容回顧　265
9.2　深度學(xué)習(xí)的局限性　273
9.3　深度學(xué)習(xí)的未來(lái)　277
9.4　了解一個(gè)快速發(fā)展領(lǐng)域的最新進(jìn)展　281
9.5　結(jié)束語(yǔ)　282
附錄A　在Ubuntu上安裝Keras及其依賴　283
附錄B　在EC2GPU實(shí)例上運(yùn)行Jupyter筆記本　287