《深度學(xué)習(xí)：從基礎(chǔ)到實(shí)踐（上、下冊(cè)）》

上冊(cè)

第 1章 機(jī)器學(xué)習(xí)與深度學(xué)習(xí)入門(mén) 1

1.1 為什么這一章出現(xiàn)在這里 1

1.2 從標(biāo)記數(shù)據(jù)中學(xué)習(xí) 4

1.3 監(jiān)督學(xué)習(xí) 10

1.4 無(wú)監(jiān)督學(xué)習(xí) 12

1.5 生成器 16

1.6 強(qiáng)化學(xué)習(xí) 18

1.7 深度學(xué)習(xí) 19

1.8 接下來(lái)會(huì)講什么 22

參考資料 22

第 2章 隨機(jī)性與基礎(chǔ)統(tǒng)計(jì)學(xué) 24

2.1 為什么這一章出現(xiàn)在這里 24

2.2 隨機(jī)變量 24

2.3 一些常見(jiàn)的分布 29

2.4 獨(dú)立性 35

2.5 抽樣與放回 36

2.6 Bootstrapping算法 38

2.7 高維空間 41

2.8 協(xié)方差和相關(guān)性 43

2.9 Anscombe四重奏 47

參考資料 48

第3章 概率 50

3.1 為什么這一章出現(xiàn)在這里 50

3.2 飛鏢游戲 50

3.3 初級(jí)概率學(xué) 52

3.4 條件概率 52

3.5 聯(lián)合概率 55

3.6 邊際概率 57

3.7 測(cè)量的正確性 58

3.8 混淆矩陣的應(yīng)用 73

參考資料 77

第4章 貝葉斯定理 78

4.1 為什么這一章出現(xiàn)在這里 78

4.2 頻率論者法則以及貝葉斯法則 78

4.3 拋硬幣 80

4.4 這枚硬幣公平嗎 81

4.5 生活中的貝葉斯定理 89

4.6 重復(fù)貝葉斯定理 91

4.7 多個(gè)假設(shè) 97

參考資料 101

第5章 曲線和曲面 102

5.1 為什么這一章出現(xiàn)在這里 102

5.2 引言 102

5.3 導(dǎo)數(shù) 103

5.4 梯度 108

參考資料 112

第6章 信息論 113

6.1 為什么這一章出現(xiàn)在這里 113

6.2 意外程度與語(yǔ)境 113

6.3 用比特作為單位 115

6.4 衡量信息 116

6.5 事件的大小 117

6.6 自適應(yīng)編碼 117

6.7 熵 122

6.8 交叉熵 123

6.9 KL散度 127

參考資料 128

第7章 分類(lèi) 130

7.1 為什么這一章出現(xiàn)在這里 130

7.2 二維分類(lèi) 130

7.3 二維多分類(lèi) 134

7.4 多維二元分類(lèi) 135

7.5 聚類(lèi) 138

7.6 維度災(zāi)難 141

參考資料 149

第8章 訓(xùn)練與測(cè)試 150

8.1 為什么這一章出現(xiàn)在這里 150

8.2 訓(xùn)練 150

8.3 測(cè)試數(shù)據(jù) 153

8.4 驗(yàn)證數(shù)據(jù) 156

8.5 交叉驗(yàn)證 157

8.6 對(duì)測(cè)試結(jié)果的利用 160

參考資料 161

第9章 過(guò)擬合與欠擬合 162

9.1 為什么這一章出現(xiàn)在這里 162

9.2 過(guò)擬合與欠擬合 162

9.3 過(guò)擬合數(shù)據(jù) 164

9.4 及早停止 167

9.5 正則化 168

9.6 偏差與方差 169

9.7 用貝葉斯法則進(jìn)行線擬合 175

參考資料 179

第 10章 神經(jīng)元 181

10.1 為什么這一章出現(xiàn)在這里 181

10.2 真實(shí)神經(jīng)元 181

10.3 人工神經(jīng)元 182

10.4 小結(jié) 188

參考資料 188

第 11章 學(xué)習(xí)與推理 190

11.1 為什么這一章出現(xiàn)在這里 190

11.2 學(xué)習(xí)的步驟 190

11.3 演繹和歸納 193

11.4 演繹 194

11.5 歸納 199

11.6 組合推理 203

11.7 操作條件 204

參考資料 206

第 12章 數(shù)據(jù)準(zhǔn)備 208

12.1 為什么這一章出現(xiàn)在這里 208

12.2 數(shù)據(jù)變換 208

12.3 數(shù)據(jù)類(lèi)型 210

12.4 數(shù)據(jù)清理基礎(chǔ) 212

12.5 歸一化和標(biāo)準(zhǔn)化 213

12.6 特征選擇 217

12.7 降維 217

12.8 轉(zhuǎn)換 226

12.9 切片處理 229

12.10 交叉驗(yàn)證轉(zhuǎn)換 232

參考資料 234

第 13章 分類(lèi)器 236

13.1 為什么這一章出現(xiàn)在這里 236

13.2 分類(lèi)器的種類(lèi) 236

13.3 k近鄰法 237

13.4 支持向量機(jī) 241

13.5 決策樹(shù) 247

13.6 樸素貝葉斯 255

13.7 討論 259

參考資料 260

第 14章 集成算法 261

14.1 為什么這一章出現(xiàn)在這里 261

14.2 集成方法 261

14.3 投票 262

14.4 套袋算法 262

14.5 隨機(jī)森林 264

14.6 極端隨機(jī)樹(shù) 265

14.7 增強(qiáng)算法 265

參考資料 270

第 15章 scikit-learn 272

第 16章 前饋網(wǎng)絡(luò) 314

第 17章 激活函數(shù) 321

第 18章 反向傳播 336

第 19章 優(yōu)化器 383

下冊(cè)

第 20章 深度學(xué)習(xí) 417

20.1 為什么這一章出現(xiàn)在這里 417

20.2 深度學(xué)習(xí)概述 417

20.3 輸入層和輸出層 419

20.4 深度學(xué)習(xí)層縱覽 420

20.5 層和圖形符號(hào)總結(jié) 428

20.6 一些例子 429

20.7 構(gòu)建一個(gè)深度學(xué)習(xí)器 434

20.8 解釋結(jié)果 435

參考資料 440

第 21章 卷積神經(jīng)網(wǎng)絡(luò) 441

第 22章 循環(huán)神經(jīng)網(wǎng)絡(luò) 488

第 23章 Keras第 1部分 520

第 24章 Keras第 2部分 577

第 25章 自編碼器 665

第 26章 強(qiáng)化學(xué)習(xí) 704

第 27章 生成對(duì)抗網(wǎng)絡(luò) 753

第 28章 創(chuàng)造性應(yīng)用 775

第 29章 數(shù)據(jù)集 797

《圖神經(jīng)網(wǎng)絡(luò)：基礎(chǔ)、前沿與應(yīng)用》

第 一部分 引言

第 1章 表征學(xué)習(xí) 2

1.1 導(dǎo)讀 2

1.2 不同領(lǐng)域的表征學(xué)習(xí) 3

1.3 小結(jié) 9

第 2章 圖表征學(xué)習(xí) 11

2.1 導(dǎo)讀 11

2.2 傳統(tǒng)圖嵌入方法 12

2.3 現(xiàn)代圖嵌入方法 13

2.4 圖神經(jīng)網(wǎng)絡(luò) 16

2.5 小結(jié) 17

第3章 圖神經(jīng)網(wǎng)絡(luò) 18

3.1 導(dǎo)讀 18

3.2 圖神經(jīng)網(wǎng)絡(luò)概述 19

3.3 小結(jié) 24

第二部分 基礎(chǔ)

第4章 用于節(jié)點(diǎn)分類(lèi)的圖神經(jīng)網(wǎng)絡(luò) 28

4.1 背景和問(wèn)題定義 28

4.2 有監(jiān)督的圖神經(jīng)網(wǎng)絡(luò) 29

4.3 無(wú)監(jiān)督的圖神經(jīng)網(wǎng)絡(luò) 37

4.4 過(guò)平滑問(wèn)題 41

4.5 小結(jié) 42

第5章 圖神經(jīng)網(wǎng)絡(luò)的表達(dá)能力 44

5.1 導(dǎo)讀 44

5.2 圖表征學(xué)習(xí)和問(wèn)題的提出 47

5.3 強(qiáng)大的消息傳遞圖神經(jīng)網(wǎng)絡(luò) 49

5.4 比1-WL測(cè)試更強(qiáng)大的圖神經(jīng)網(wǎng)絡(luò)架構(gòu) 54

5.5 小結(jié) 69

第6章 圖神經(jīng)網(wǎng)絡(luò)的可擴(kuò)展性 71

6.1 導(dǎo)讀 71

6.2 引言 72

6.3 抽樣范式 72

6.4 大規(guī)模圖神經(jīng)網(wǎng)絡(luò)在推薦系統(tǒng)中的應(yīng)用 82

6.5 未來(lái)的方向 84

第7章 圖神經(jīng)網(wǎng)絡(luò)的可解釋性 86

7.1 背景：深度模型的可解釋性 86

7.2 圖神經(jīng)網(wǎng)絡(luò)的解釋方法 90

7.3 圖神經(jīng)網(wǎng)絡(luò)的可解釋模型 97

7.4 圖神經(jīng)網(wǎng)絡(luò)解釋的評(píng)估 101

7.5 未來(lái)的方向 103

第8章 圖神經(jīng)網(wǎng)絡(luò)的對(duì)抗魯棒性 105

8.1 動(dòng)機(jī) 105

8.2 圖神經(jīng)網(wǎng)絡(luò)的局限性：對(duì)抗性樣本 107

8.3 可證明的魯棒性：圖神經(jīng)網(wǎng)絡(luò)的認(rèn)證 113

8.4 提高圖神經(jīng)網(wǎng)絡(luò)的魯棒性 117

8.5 從魯棒性的角度進(jìn)行適當(dāng)評(píng)估 122

8.6 小結(jié) 124

第三部分 前沿

第9章 圖分類(lèi) 128

9.1 導(dǎo)讀 128

9.2 用于圖分類(lèi)的圖神經(jīng)網(wǎng)絡(luò)：典型工作和現(xiàn)代架構(gòu) 129

9.3 池化層：從節(jié)點(diǎn)級(jí)輸出學(xué)習(xí)圖級(jí)輸出 133

9.4 圖神經(jīng)網(wǎng)絡(luò)和高階層在圖分類(lèi)中的局限性 135

9.5 圖神經(jīng)網(wǎng)絡(luò)在圖分類(lèi)中的應(yīng)用 137

9.6 基準(zhǔn)數(shù)據(jù)集 137

9.7 小結(jié) 138

第 10章 鏈接預(yù)測(cè) 139

10.1 導(dǎo)讀 139

10.2 傳統(tǒng)的鏈接預(yù)測(cè)方法 140

10.3 基于GNN的鏈接預(yù)測(cè)方法 145

10.4 鏈接預(yù)測(cè)的理論 151

10.5 未來(lái)的方向 158

第 11章 圖生成 160

11.1 導(dǎo)讀 160

11.2 經(jīng)典的圖生成模型 160

11.3 深度圖生成模型 163

11.4 小結(jié) 178

第 12章 圖轉(zhuǎn)換 179

12.1 圖轉(zhuǎn)換問(wèn)題的形式化 179

12.2 節(jié)點(diǎn)級(jí)轉(zhuǎn)換 180

12.3 邊級(jí)轉(zhuǎn)換 182

12.4 節(jié)點(diǎn)-邊共轉(zhuǎn)換 186

12.5 其他基于圖的轉(zhuǎn)換 193

12.6 小結(jié) 196

第 13章 圖匹配 197

13.1 導(dǎo)讀 197

13.2 圖匹配學(xué)習(xí) 198

13.3 圖相似性學(xué)習(xí) 205

13.4 小結(jié) 210

第 14章 圖結(jié)構(gòu)學(xué)習(xí) 211

14.1 導(dǎo)讀 211

14.2 傳統(tǒng)的圖結(jié)構(gòu)學(xué)習(xí) 212

14.3 圖神經(jīng)網(wǎng)絡(luò)的圖結(jié)構(gòu)學(xué)習(xí) 215

14.4 未來(lái)的方向 226

14.5 小結(jié) 227

第 15章 動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò) 228

第 16章 異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 248

第 17章 自動(dòng)機(jī)器學(xué)習(xí) 262

第 18章 自監(jiān)督學(xué)習(xí) 275

第四部分 廣泛和新興的應(yīng)用

第 19章 現(xiàn)代推薦系統(tǒng)中的圖神經(jīng)網(wǎng)絡(luò) 298

第 20章 計(jì)算機(jī)視覺(jué)中的圖神經(jīng)網(wǎng)絡(luò) 315

第 21章 自然語(yǔ)言處理中的圖神經(jīng)網(wǎng)絡(luò) 327

第 22章 程序分析中的圖神經(jīng)網(wǎng)絡(luò) 341

第 23章 軟件挖掘中的圖神經(jīng)網(wǎng)絡(luò) 352

第 24章 藥物開(kāi)發(fā)中基于圖神經(jīng)網(wǎng)絡(luò)的生物醫(yī)學(xué)知識(shí)圖譜挖掘 366

第 25章 預(yù)測(cè)蛋白質(zhì)功能和相互作用的圖神經(jīng)網(wǎng)絡(luò) 383

第 26章 異常檢測(cè)中的圖神經(jīng)網(wǎng)絡(luò) 395

第 27章 智慧城市中的圖神經(jīng)網(wǎng)絡(luò) 410