深度學習基礎教程之DLBook深度學習中文版電子教材免費下載

　　? 第一章（引言）：劉暢、許丁杰、潘雨粟和NeutronT 對本章進行了閱讀，并對很多語句提出了不少修改建議。林中鵬進行了校對，他提出了很多獨到的修改建議。

　　? 第二章（線性代數）：許丁杰和駱徐圣閱讀本章，并修改語句。李若愚進行了校對，提出了很多細心的建議。

　　? 第三章（概率與信息論）：許丁杰閱讀本章，并修改語句。李培炎和何翊卓進行了校對，并修改了很多中文用詞，使翻譯更加準確。

　　? 第四章（數值計算）：張亞霏閱讀本章，并對其他章節也有提出了一些修改建議。張源源進行了校對，并指出了原文可能存在的問題，非常仔細。

　　? 第五章（機器學習基礎）：郭浩和黃平春閱讀本章，并修改語句。李東和林中鵬進行了校對。本章篇幅較長，能夠有現在的翻譯質量離不開這四位的貢獻。

　　? 第六章（深度前饋網絡）：周衛林、林中鵬和張遠航閱讀本章，并提出修改意見。

　　? 第七章（深度學習中的正則化）：周柏村進行了非常細心的校對，指出了大量問題，令翻譯更加準確。

　　? 第八章（深度模型中的優化）：房曉宇和吳翔閱讀本章。黃平春進行了校對，他提出的很多建議讓行文更加流暢易懂。

　　? 第九章（卷積網絡）：趙雨和潘雨粟閱讀本章，并潤色語句。丁志銘進行了非常仔細的校對，并指出很多翻譯問題。

　　? 第十章（序列建模：循環和遞歸網絡）：劉暢閱讀本章。趙雨提供了詳細的校對建議，尹瑞清根據他的翻譯版本，給我們的版本提出了很多建議。雖然仍存在一些分歧，但我們兩個版本的整合，讓翻譯質量提升很多。

　　? 第十二章（應用）：潘雨粟進行了校對，在他的校對之前，本章閱讀起來比較困難。他提供的修改建議，不僅提高了行文流暢度，還提升了譯文的準確度。

　　? 第十三章（線性因子模型）：賀天行閱讀本章，修改語句。楊志偉校對本章，潤色大量語句。

　　? 第十四章（自編碼器）：李雨慧和黃平春進行了校對。李雨慧提升了語言的流暢度，黃平春糾正了不少錯誤，提高了準確性。

　　這本書對各類讀者都有一定用處，但我們主要是為兩類受眾對象而寫的。其中一類受眾對象是學習機器學習的大學生（本科或研究生），包括那些已經開始職業生涯的深度學習和人工智能研究者。另一類受眾對象是沒有機器學習或統計背景但希望能快速地掌握這方面知識并在他們的產品或平臺中使用深度學習的軟件工程師。深度學習在許多軟件領域都已被證明是有用的，包括計算機視覺、語音和音頻處理、自然語言處理、機器人技術、生物信息學和化學、電子游戲、搜索引擎、網絡廣告和金融。

　　為了最好地服務各類讀者，我們將本書組織為三個部分。第一部分介紹基本的數學工具和機器學習的概念。第二部分介紹最成熟的深度學習算法，這些技術基本上已經得到解決。第三部分討論某些具有展望性的想法，它們被廣泛地認為是深度學習未來的研究重點。

　　讀者可以隨意跳過不感興趣或與自己背景不相關的部分。熟悉線性代數、概率和基本機器學習概念的讀者可以跳過第一部分，例如，當讀者只是想實現一個能工作的系統則不需要閱讀超出第二部分的內容。為了幫助讀者選擇章節，圖1.6 展示了這本書的高層組織結構的流程圖。

　　我們假設所有讀者都具備計算機科學背景。也假設讀者熟悉編程，并且對計算的性能問題、復雜性理論、入門級微積分和一些圖論術語有基本的了解。

　　遠在古希臘時期，發明家就夢想著創造能自主思考的機器。神話人物皮格馬利翁（Pygmalion）、代達羅斯（Daedalus） 和赫淮斯托斯（Hephaestus） 可以被看作傳說中的發明家，而加拉蒂亞（Galatea）、塔洛斯（Talos） 和潘多拉（Pandora） 則可以被視為人造生命（Ovid and Martin， 2004; Sparkes， 1996; Tandy， 1997）。

　　當人類第一次構思可編程計算機時，就已經在思考計算機能否變得智能（盡管這距造出第一臺計算機還有一百多年）（Lovelace， 1842）。如今，人工智能（artificialintelligence， AI）已經成為一個具有眾多實際應用和活躍研究課題的領域，并且正在蓬勃發展。我們期望通過智能軟件自動地處理常規勞動、理解語音或圖像、幫助醫學診斷和支持基礎科學研究。

　　在人工智能的早期，那些對人類智力來說非常困難、但對計算機來說相對簡單的問題得到迅速解決，比如，那些可以通過一系列形式化的數學規則來描述的問題。人工智能的真正挑戰在于解決那些對人來說很容易執行、但很難形式化描述的任務，如識別人們所說的話或圖像中的臉。對于這些問題，我們人類往往可以憑借直覺輕易地解決。

　　針對這些比較直觀的問題，本書討論一種解決方案。該方案可以讓計算機從經驗中學習，并根據層次化的概念體系來理解世界，而每個概念則通過與某些相對簡單的概念之間的關系來定義。讓計算機從經驗獲取知識，可以避免由人類來給計算機形式化地指定它需要的所有知識。層次化的概念讓計算機構建較簡單的概念來學習復雜概念。如果繪制出這些概念如何建立在彼此之上的圖，我們將得到一張‘‘深’’（層次很多）的圖?；谶@個原因，我們稱這種方法為AI 深度學習（deep learning）

　　AI 許多早期的成功發生在相對樸素且形式化的環境中，而且不要求計算機具備很多關于世界的知識。例如，IBM 的深藍（Deep Blue）國際象棋系統在1997 年擊敗了世界冠軍Garry Kasparov（Hsu， 2002）。顯然國際象棋是一個非常簡單的領域，因為它僅含有64 個位置并只能以嚴格限制的方式移動32 個棋子。設計一種成功的國際象棋策略是巨大的成就，但向計算機描述棋子及其允許的走法并不是挑戰的困難所在。國際象棋完全可以由一個非常簡短的、完全形式化的規則列表來描述，并可以容易地由程序員事先準備好。

　　諷刺的是，抽象和形式化的任務對人類而言是最困難的腦力任務之一，但對計算機而言卻屬于最容易的。計算機早就能夠打敗人類最好的象棋選手，但直到最近計算機才在識別對象或語音任務中達到人類平均水平。一個人的日常生活需要關于世界的巨量知識。很多這方面的知識是主觀的、直觀的，因此很難通過形式化的方式表達清楚。計算機需要獲取同樣的知識才能表現出智能。人工智能的一個關鍵挑戰就是如何將這些非形式化的知識傳達給計算機。

　　一些人工智能項目力求將關于世界的知識用形式化的語言進行硬編碼（hard-code）。計算機可以使用邏輯推理規則來自動地理解這些形式化語言中的聲明。這就是眾所周知的人工智能的知識庫（knowledge base）方法。然而，這些項目最終都沒有取得重大的成功。其中最著名的項目是Cyc （Lenat and Guha， 1989）。Cyc包括一個推斷引擎和一個使用CycL 語言描述的聲明數據庫。這些聲明是由人類監督者輸入的。這是一個笨拙的過程。人們設法設計出足夠復雜的形式化規則來精確地描述世界。例如，Cyc 不能理解一個關于名為Fred 的人在早上剃須的故事（Linde， 1992）。它的推理引擎檢測到故事中的不一致性：它知道人體的構成不包含電氣零件，但由于Fred 正拿著一個電動剃須刀，它認為實體‘‘正在剃須的Fred” （“FredWhileShaving”） 含有電氣部件。因此它產生了這樣的疑問——Fred 在刮胡子的時候是否仍然是一個人。

　　依靠硬編碼的知識體系面對的困難表明，AI 系統需要具備自己獲取知識的能力，即從原始數據中提取模式的能力。這種能力被稱為機器學習（machine learning）。引入機器學習使計算機能夠解決涉及現實世界知識的問題，并能作出看似主觀的決策。比如，一個被稱為邏輯回歸（logistic regression）的簡單機器學習算法可以決定是否建議剖腹產（Mor-Yosef et al.， 1990）。而同樣是簡單機器學習算法的樸素貝葉斯（naive Bayes）則可以區分垃圾電子郵件和合法電子郵件。

　　這些簡單的機器學習算法的性能在很大程度上依賴于給定數據的表示（repre-sentation）。例如，當邏輯回歸被于判斷產婦是否適合剖腹產時，AI 系統不會直接檢查患者。相反，醫生需要告訴系統幾條相關的信息，諸如是存在子宮疤痕。表示患者的每條信息被稱為一個特征。邏輯回歸學習病人的這些特征如何與各種結果

　　在整個計算機科學乃至日常生活中，對表示的依賴都是一個普遍現象。在計算機科學中，如果數據集合被精巧地結構化并被智能地索引，那么諸如搜索之類的操作的處理速度就可以成指數級地加快。人們可以很容易地在阿拉伯數字的表示下進行算術運算，但在羅馬數字的表示下運算會比較耗時。因此，毫不奇怪，表示的選擇會對機器學習算法的性能產生巨大的影響。圖1.1 展示了一個簡單的可視化例子。