1.?前向搜索

1.1.?通過前向搜索，通過考慮各種可能的動作序列的結果，來選擇動作，是智能系統的基本能力

1.2.?如果一家卡車運輸公司想要優化其100輛卡車在美國的運輸，那么該公司可能需要考慮的狀態數量將是10^700個

1.3.?幾乎所有的前向搜索程序都在使用的基本思路是，給葉子節點，即最遙遠的未來的那些狀態，各賦予一個估計值，然后“回溯”，找出根節點的各個選擇有多好

1.4.?人類能夠管理自己的計算活動，從而合理而又迅速地做出理智的決策，這種能力至少與人類正確感知和推理的能力一樣非凡

1.5.?選擇計算的過程叫元推理，這意味著對推理進行推理

1.5.1.?計算的價值在于它能提高你的決策質量

1.6.?探索從當前狀態延伸到未來的可能性之樹并不是做出決定的唯一途徑

1.6.1.?從目標開始向后追溯更有意義

1.6.2.?目標通常會考慮所有可能的合法動作

1.7.?AlphaZero大約能向前計算50步棋，但是50步棋的運動控制指令只能讓你計劃幾秒鐘后的未來

1.7.1.?雖然AlphaZero在圍棋對局中比任何人都看得更遠，但這種能力在現實世界中似乎并沒有幫助

1.7.2.?這是一種錯誤的前向搜索

1.7.3.?它考慮的唯一動作就是從初始狀態開始按順序發生的原始動作

1.8.?1962年，赫伯特·西蒙在著名的論文《復雜性的體系結構》中強調了層級組織的重要性

1.8.1.?自20世紀70年代初以來，人工智能研究人員已經開發出多種方法來構建和細化層級組織的計劃

1.8.2.?目前現有的所有分層規劃方法都依賴于人為產生的抽象動作和具體動作的層級組織，我們還不知道如何從經驗中學習這種層級組織

2.?知識與邏輯

2.1.?在古代印度、中國和希臘獨立發展起來的邏輯學核心思想是，精確含義和合理推理可以應用于任何句子，而不僅僅應用于數字

2.2.?邏輯學是一種用確定的知識進行推理的研究

2.2.1.?就主題而言，它是完全通用的，也就是說，邏輯學知識可以是關于任何事物的

2.2.2.?邏輯學是我們理解通用智能的不可或缺的一部分

2.3.?命題邏輯

2.3.1.?自20世紀60年代初以來，命題邏輯中實用的“推理算法”就已為人們所知

2.3.1.1.?雖然在最壞的情況下，處理一般推理任務可能需要花費指數級的時間

2.3.2.?一旦人們將所有這些任務表述為推理任務，就可以使用單一算法（命題邏輯的推理算法）來解決所有任務

2.3.3.?問題不僅在于規則手冊將達到令人難以置信的規模，還在于學習系統從例子中獲取規則，需要多到令人難以置信的經驗

2.3.3.1.?這種限制不僅適用于基于命題邏輯的系統，也適用于任何具有類似表達能力的系統，其中包括貝葉斯網絡（它最早是命題邏輯的概率學“表親”）以及神經網絡（它是人工智能“深度學習”方法的基礎）

2.4.?一階邏輯

2.4.1.?一階邏輯由德國數學家戈特洛布·弗雷格（Gottlob Frege）于1879年提出，它為人們提供了一種描述規則的方法

2.4.2.?命題邏輯和一階邏輯的關鍵區別在于：命題邏輯假設世界是由真假命題組成的，而一階邏輯假設世界是由可以通過各種方式相互關聯的對象組成的

2.4.2.1.?用一階邏輯描述與用英語描述幾乎一樣長

2.4.3.?名為Prolog的編程語言

2.5.?邏輯無法處理不確定的信息

2.5.1.?有效的老式人工智能，簡稱GOFAI

2.5.2.?越來越多的人認為邏輯與人工智能無關

2.5.3.?事實上，如今深度學習領域的許多人工智能研究人員對邏輯一無所知

2.6.?在任何有用的意義上，一個可以了解事物的程序至少需要擁有與一階邏輯能力相媲美的表達和推理能力

3.?貝葉斯網絡

3.1.?20世紀80年代初，朱迪亞·珀爾提出了一種叫作“貝葉斯網絡”的正式語言

3.2.?就像命題邏輯一樣，有些算法可以用任何證據回答任何貝葉斯網絡的任何問題

3.3.?貝葉斯網絡提供了一種基于知識系統的方法，避免了和20世紀80年代基于規則的專家系統一樣的失敗

3.3.1.?事實上，人工智能界如果在20世紀80年代初不那么強烈地抗拒概率，就可能會避免基于規則的專家系統泡沫之后的人工智能寒冬

3.4.?貝葉斯網絡為表示必要的概率和執行計算提供了機制，為許多復雜任務實現了貝葉斯更新

3.4.1.?就像命題邏輯一樣，它們表達一般知識的能力也相當有限

3.5.?了解不確定的世界的基本方法是貝葉斯更新

3.6.?實現它的算法通常有兩個步驟

3.6.1.?預測，在這個步驟中，智能體根據最近的動作預測世界的當前狀態

3.6.2.?更新，在這個步驟中，智能體接收新的感知輸入并相應地更新它的信念

3.7.?SLAM是許多人工智能應用的核心組件，從增強現實系統到無人駕駛汽車和行星漫游車

3.7.1.?同步定位與地圖構建

4.?不確定性和概率論

4.1.?邏輯學為用確定的知識進行推理提供了通用基礎，而概率論則需要用不確定的信息進行推理（確定的知識是其中的一種特例）

4.2.?不確定性是現實世界中的智能體的正常認知狀態

4.3.?雖然概率論的基本思想是在17世紀發展起來的，但直到最近，以正式的方式用大概率模型來進行表達和推理才成為可能

4.4.?一階概率語言

4.4.1.?可以將一階邏輯的表達能力與貝葉斯網絡精確獲取概率信息的能力結合起來

4.4.2.?這種結合讓我們得到一加一大于二的效果：基于概率知識的系統能夠處理比單用邏輯方法或貝葉斯網絡更廣泛的現實世界情況

4.4.3.?一階邏輯和概率論的結合給了我們一種表達許多對象的不確定信息的方式

4.4.3.1.?不僅有關于哪些事實是真或假的不確定性，還包括存在哪些對象的不確定性，以及對象的對應關系的不確定性

4.5.?概率論與有表達能力的正式語言的結合是人工智能的一個非常新的子領域，通常被稱為概率編程

4.5.1.?PPL

4.5.2.?其中許多都是從普通編程語言而不是從一階邏輯中獲得表達能力的

4.5.3.?所有的概率編程語言系統都具有用復雜的、不確定的知識進行表達和推理的能力

4.5.3.1.?其應用有微軟的TrueSkill系統，該系統每天為數百萬名電子游戲玩家評級

4.5.3.2.?還有以前任何機械假說都無法解釋的人類認知方面的模型

4.6.?概率推理最重要的作用之一是了解世界上無法直接被觀察到的部分

4.6.1.?在部分可見的環境中運行的智能體必須根據它們所擁有的線索，盡可能地了解它們看不到的東西

4.7.?信念狀態（belief state）一詞來指代智能體對世界狀態的當前認知，無論這種認知是多么地不完整和不確定

4.7.1.?保持信念狀態為最新狀態是一切智能體的核心活動

4.7.2.?對于信念狀態的某些部分，這是自動發生的

4.7.3.?對于其他部分，這則是按需發生的

5.?從經驗中學習

5.1.?學習意味著基于經驗改進性能

5.2.?機器學習最常見的形式是監督學習

5.3.?從規則的逐步發展中可以看出，學習是通過對假設進行一系列修改來適應觀察到的例子而實現的

5.3.1.?這是學習算法可以很容易做到的事情，也是第一個要點

5.3.2.?假設也可以是表示物理定律的代數表達式，表示疾病和癥狀的概率貝葉斯網絡，甚至可以是表示某些其他機器的復雜行為的計算機程序

5.4.?第二個要點是，即使好的假設也可能是錯誤的

5.5.?歸納推理

5.5.1.?從“特定觀察結果”到“一般原則”的推理，永遠無法得到保證

5.6.?在現代統計學理論中，我們要求的不是保證完全正確，而是保證發現的假設大致正確

5.7.?只要世界表現出一定程度的規律性，這個算法就不太可能產生非常糟糕的假設，因為這樣的假設很可能已經被某個嘗試“發現”了

5.8.?深度學習技術在媒體上引起了所有關于人工智能的喧囂

5.8.1.?它主要是一種監督學習的形式，代表了近幾十年來人工智能領域最重要的進步之一，所以值得我們了解它的工作原理

5.8.2.?在特定任務的背景下理解深度學習是最容易的

5.8.3.?目前最受歡迎的是深度卷積網絡

5.8.3.1.?網絡實際上是一幅復雜的、可調的數學表達式的圖畫

5.8.3.2.?奇特之處在于，網絡結構在圖像的整個輸入過程中以固定的模式自我重復

5.8.3.3.?它之所以被稱為“深度”網絡，是因為這樣的網絡通常有很多層，也因為這個名字聽起來令人贊嘆，而且有些詭異

5.8.4.?因為它們有很多層，所以每一層都可以學習從輸入到輸出的一個很簡單的轉換，而許多這樣的簡單轉換加起來，就是從照片到類別標簽所需的復雜轉換

5.8.4.1.?深度視覺網絡具有內置的結構，可以強制實現平移不變性和尺度不變性，這意味著，無論狗出現在圖像中的哪個位置，無論它在圖像中看上去體型有多大，它都是一只狗

5.8.5.?深度網絡的另一個重要特性是，它們經常能發現圖像的內部表示形式，正是這些形式捕捉到了圖像的基本特征，例如眼睛、條紋和其他簡單形狀

5.8.5.1.?多次重復這個過程就會生成現在眾所周知的DeepDream（“深夢”）或Inceptionism（“啟發主義”）神經網絡生成的那種圖像

5.8.5.2.?Inceptionism本身已經成為一種藝術形式，它生成的圖像不同于任何人類藝術

5.8.6.?雖然深度學習系統取得了令人矚目的成就，但我們目前所理解的深度學習系統遠不能為通用智能系統提供基礎

5.8.6.1.?它們是電路

5.8.6.1.1.?在“原生模式”下運行的深度網絡需要大量的電路來表示相當簡單的常識

5.8.6.2.?它們是命題邏輯和貝葉斯網絡的表親，雖然它們有很多奇妙的特性，但它們也缺乏用簡潔的方式表達復雜知識的能力

5.8.7.?深度學習可能會在遠低于通用智能的水平上停滯不前

6.?從思考中學習

6.1.?每當你發現自己不得不思考某件事時，那是因為你還不知道答案

6.2.?你存儲并重復使用了問題的通用解決方案

6.3.?看到例子后，智能體可以自己解釋為什么會出現這種情況，并可以通過了解哪些因素對解釋至關重要，來提取通用原理

6.3.1.?在人工智能中，這種學習被稱為基于解釋的學習

6.3.2.?這個過程本身不會增加新的知識

6.4.?認知科學的研究強調了這種類型的學習在人類認知中的重要性

6.4.1.?它以“知識塊”之名，形成了艾倫·紐厄爾（Allen Newell）極具影響力的認知理論的核心支柱

6.4.2.?“知識塊”解釋了人類如何通過練習而變得更熟練地處理認知任務，因為原本需要思考的各種子任務都變成了自動完成的任務

6.4.3.?如果沒有它，人類的對話將局限于一兩個字的回答，數學家仍將依靠他們的手指計數