1.?????? AI

1.1.???????? AI已經發展成一門涵蓋許多子領域的重要學科

1.2.???????? 機器學習是迄今為止AI應用最成功的子領域

1.2.1.?????????? 在這個領域中，最大的技術突破就是深度學習

1.3.???????? “人工智能”“機器學習”和“深度學習”的時候，可能不會把它們的概念區分得那么清楚，有時候，這幾個詞會被混用

1.4.???????? 2016年，基于深度學習技術開發的圍棋棋手AlphaGo擊敗了韓國棋手李世石，令世界為之震驚，而深度學習也借此徹底點燃了人們對AI的熱情

2.?????? 深度學習

2.1.???????? 第一篇闡述深度學習的學術論文發表于1967年

2.1.1.?????????? 這項技術卻花了近50年的時間才得以蓬勃發展，之所以經歷了這么長的時間，是因為深度學習需要海量的數據和強大的算力，才能訓練多達幾千層的神經網絡

2.2.???????? 如果把算力比作AI的引擎，那么數據就是AI的燃料，直到最近10年，算力才變得足夠高效，數據才變得足夠豐富

2.2.1.?????????? 如今，智能手機所擁有的算力，相當于1969年美國國家航空航天局（NASA）把尼爾·阿姆斯特朗送上月球時所用電腦算力的數百萬倍

2.2.2.?????????? 2020年的互聯網數據量幾乎是1995年時的1萬億倍

2.3.???????? 受人類大腦內部復雜的神經元網絡的啟發，深度學習模擬生物神經網絡，構建出包括輸入層和輸出層在內的人工神經網絡，當將數據輸入該網絡的輸入層后，在輸出層就會顯現出相應的處理結果

2.3.1.?????????? 中間層

2.3.1.1.??????????? 又稱隱藏層

2.4.???????? 盡管深度學習的最初靈感來源于人類的大腦，但二者的運作方式截然不同

2.4.1.?????????? 深度學習所需要的數據量遠比人腦所需要的多得多

2.4.2.?????????? 一旦經過大數據訓練，它在相同領域的表現將遠遠超過人類

2.4.2.1.??????????? 尤其是在數字的量化學習

2.4.2.1.1.???????????? 挑選某人最可能購買的產品

2.4.2.1.2.???????????? 從100萬張臉中挑選最匹配的一張

2.4.3.?????????? 人類在同一時間內只能把注意力放在少數幾件事情上面，而深度學習算法卻可以同時處理海量信息，并且發現在大量數據背后的模糊特征之間的關聯，這些模糊特征不僅復雜而且微妙，人類往往無法理解，甚至可能不會注意到

2.5.???????? 沒有這些外在的人類規則，深度學習的效果其實會更好

2.6.???????? 深度學習的訓練方法是，針對特定的應用場景，給人工神經網絡的輸入層“投喂”大量數據樣本，同時給輸出層“投喂”相應的“正確答案”，通過這樣的訓練，不斷優化人工神經網絡的內部參數，使根據輸入生成最接近“正確答案”的輸出的概率最高

2.6.1.?????????? 在訓練過程中，可以將深度學習視為解決目標函數最大化問題的一種數學運算

2.6.2.?????????? 目標函數是由每次的訓練主題決定的

2.7.???????? 人工神經網絡的訓練是一個數學處理過程

2.7.1.?????????? 通過不斷調整網絡中的數百萬個參數（有時甚至是數十億個參數），來最大限度地提高“只要輸入有貓的圖片，就輸出‘有貓’的判定”的概率，以及“只要輸入沒有貓的圖片，就輸出‘無貓’的判定”的概率

2.8.???????? 深度學習幾乎在任何領域都能發揮識別、預測、分類、合成的作用

2.9.???????? 在借助大量數據進行訓練時，深度學習可以針對每一個用戶提供定制化的服務——基于海量數據中較相似用戶的數據，對每個用戶做出貼切的預測，以達到千人千面的效果

3.?????? 人腦和AI“腦”的差別和擅長

3.1.???????? 深度學習的能力非常強大，然而它并不是“包治百病”的靈丹妙藥

3.1.1.?????????? 不具備人類在面對決策時獨一無二的汲取過去的經驗、使用抽象概念和常識的能力

3.2.???????? 與人類相比，深度學習想要充分發揮作用，離不開海量的相關數據、單一領域的應用場景以及明確的目標函數

3.2.1.?????????? 這三項缺一不可，如果缺少其中任何一項，深度學習將無用武之地

3.2.2.?????????? 如果數據太少，AI算法就沒有足夠多的樣本去洞察數據背后的模糊特征之間的有意義的關聯

3.2.3.?????????? 如果問題涉及多個領域，AI算法就無法周全考慮不同領域之間的關聯，也無法獲得足夠的數據來覆蓋跨領域多因素排列組合的所有可能性

3.2.4.?????????? 如果目標函數太過寬泛，AI算法就缺乏明確的方向，以至于很難進一步優化模型的性能

3.3.???????? 圖

4.?????? 行業的應用

4.1.???????? 互聯網行業的領頭企業成為AI技術的第一批受益者也就不足為奇了

4.2.???????? 在互聯網之外，深度學習觸手可及的下一個行業是金融業

4.2.1.?????????? 擁有單一領域（保險業）海量的高質量數據，而且這些數據都與業務指標緊密相連

4.2.2.?????????? 通過對海量數據進行學習，實現更好的財務成果（基于用戶信用評級降低違約率）、更高效的即時交易（借助AI和應用程序），以及更低的成本（無須人工）

4.3.???????? AI還有一個非常有趣的優勢，就是數據越多越好，數據越多元化越好

4.3.1.?????????? 通過不斷搜集數據（包括那些讓人類專家大跌眼鏡的稀奇古怪的數據），AI可以做出更精確的判斷，從而創造更多的利潤

4.3.2.?????????? 所有這些信息都會成為證據，說明很多關于你的情況，包括你身為投保人的相對風險，而這些數據都可以通過你的手機應用程序來獲取

4.3.3.?????????? 在這些信息中，有的一看就是價值很高的，有的看起來價值一般，但是深度學習的強大之處就在于它可以在所有信息的特征中找到微妙的組合，對組合特征中豐富的有價值的信息做更深層的洞察，而這個過程是人類無法理解、無法做到的

5.?????? 深度學習的問題

5.1.???????? 深度學習會使AI比你更了解你自己

5.1.1.?????????? AI也會掌握你的缺點

5.1.2.?????????? 奈飛平臺2020年的高分紀錄片《智能陷阱》就展現了AI個性化推薦如何讓人們在無意識中被操縱，使AI應用程序背后的利益方達成目的

5.1.2.1.??????????? 如果人們對AI的個性化推薦上癮，這類應用程序就可能縮窄人們的視野、扭曲事實的真相、加劇社會的分化，對人類的情緒、心理健康、幸福感等方面造成負面影響

5.1.3.?????????? 信息繭房

5.1.3.1.??????????? 你在手機上的每次點擊都會激活價值數十億美元的超級計算機，它會根據從20億用戶的行為中學習到和提取到的經驗，對準你的大腦，企圖左右你的思維

5.1.4.?????????? AI所訓練的目標函數通常針對的是單一目標，例如賺錢（或者更多的點擊量、廣告），因此，AI有可能過度熱衷于企業的目標績效，而不考慮用戶的福祉

5.1.4.1.??????????? 一種通用的方法是讓AI的目標函數變得不再單一

5.1.4.2.??????????? 設計目標函數時需要考慮人類的福祉，并讓人類更大程度地參與數據標注和目標函數的設計

5.1.4.3.??????????? 不僅需要對AI的復雜目標函數展開更加深入的研究，而且需要對“所花費的有意義的時間”“維護社會公平”“幸福”等概念進行量化

5.1.5.?????????? 解決方案

5.1.5.1.??????????? 一種方法是制定法規，對某些傷害人類福祉的行為給予處罰

5.1.5.2.??????????? 另一種方法是對企業承擔社會責任的行為進行評價

5.1.5.3.??????????? 一種方法是建立第三方監管機構，監督企業對技術是否有不當使用

5.1.5.4.??????????? 特別困難但又特別有效的一種方法是，確保AI技術持有者的利益與每個用戶的利益達成100%的一致

5.2.???????? 會使不公平和偏見得以延續

5.2.1.?????????? AI完全基于數據優化和結果優化進行決策，理論上應該比大部分人更加不受偏見的影響，但是，其實AI也可能產生偏見

5.2.2.?????????? 倘若用于訓練AI的數據不夠充分、全面，對某些群體的覆蓋率不足，那么就會產生偏見

5.2.3.?????????? 倘若訓練數據全部收集自一個有偏見的環境，那么數據本身就可能帶有偏見

5.2.4.?????????? 微軟的Tay對話機器人和OpenAI的語言模型GPT-3，都生成過歧視少數群體的言論

5.2.5.?????????? AI可以基于面部微表情精準地推斷一個人的性取向，這種AI應用就可能導致不公平和偏見

5.2.6.?????????? 薩赫杰的“低種姓”并不是直接標注給AI系統的，而是AI系統通過歷史數據和個人特征推斷出來的

5.2.6.1.??????????? 薩赫杰并沒有被直接貼上“達利特”的標簽，但因為他的數據和特征與“達利特”高度相關

5.2.7.?????????? 如果把帶有偏見的AI應用于醫學診斷或者司法判定，那么其風險將無法想象

5.2.8.?????????? 解決方案

5.2.8.1.??????????? 使用AI的公司應該披露AI系統被用在哪里以及使用目的

5.2.8.2.??????????? AI工程師應該接受一套職業道德準則的培訓

5.2.8.2.1.???????????? AI工程師應該接受一套職業道德準則的培訓

5.2.8.3.??????????? 工程師使用的AI訓練工具應該嵌入嚴格的測試機制，以對基于樣本比例不公平的數據訓練出來的計算模型發出警告或徹底禁止生成模型

5.2.8.4.??????????? 應該制定AI審計法

5.2.8.4.1.???????????? 這與傳統的財務審計或稅務審計類似，AI公司被舉報后，政府需要派遣專家對其進行審計

5.2.8.4.2.???????????? 如果一家公司在AI的倫理道德或者公平性方面多次被投訴，它的AI算法就必須接受審計，以檢查、確定其是否存在不公平、偏見或隱私保護方面的漏洞

5.3.???????? 不可解釋性

5.3.1.?????????? 人類總是能解釋人類決策背后的原因，因為人類的決策過程本身比較簡單，是基于經驗積累得出的規則

5.3.2.?????????? 經過海量數據訓練而得出的數學方程組，要把這個方程組精確地簡化成一個人類可以聽得懂的“原因”，基本上是不可能的

5.3.3.?????????? 無論是出于法律的考量，還是出于用戶的期望，許多關鍵的AI決策都需要給出一個解釋

5.3.3.1.??????????? 為了解決這一問題，人們目前正在進行許多相關的研究，這些研究試圖簡化、總結AI復雜的邏輯過程，或者發明具有可解釋性框架的AI算法，從而使AI變得更加“透明”

5.4.???????? 任何強大的技術都是一把雙刃劍

5.4.1.?????????? 電力可以為人類社會的日常設施提供動力，但如果人直接碰觸電，就可能喪失性命

5.4.2.?????????? 互聯網讓一切變得更加方便，但也大幅降低了人對事物的專注力

5.4.3.?????????? 所有的新技術都有缺點

5.4.3.1.??????????? 歷史表明，許多技術的早期漏洞都將隨著時間的推移而得到糾正或被徹底解決

5.4.3.1.1.???????????? 防止人類觸電的斷路器

5.4.3.1.2.???????????? 查殺電腦病毒的殺毒軟件

5.4.3.2.??????????? 未來通過改進技術和完善政策法規，將會解決深度學習（乃至AI）所帶來的大部分問題，比如不公平、偏見、不透明