讀大語言模型09超級智能

1.?超級智能

1.1.?如果人工智能超越人類智能，可能會成為人類存在的一個重大威脅

1.2.?計算機科學已經成為所有科學領域中不可或缺的重要組成部

1.3.?GPT具備編寫計算機程序的能力，這意味著它在未來可能開發出用于自我增強的程序

2.1.?ImageNet是一個龐大的數據庫，涵蓋了20000個不同類別的1400萬張帶標簽的圖片

2.2.?項目名為“神經計算與適應性感知”?，由杰弗里·辛頓在2004年發起

2.3.?Llama 2推出的同時將開源

3.1.?在缺乏數據的情況下進行推測的問題在于，判斷往往只是基于個人的先入之見

3.2.?人們的關注點往往聚焦于超級智能被用于不正當目的的風險

3.3.?在最佳情況下，超級智能不僅能促進我們的健康和財富，還能幫助我們預防由人類活動引發的災難

3.4.?我們應該謹慎而行，而不是陷入恐慌，因為這是一個不可避免的挑戰

3.5.?只有在技術成功之后，人們才開始認真討論它可能帶來的后果和影響

3.6.?當初，人們沒有預見到互聯網會讓信息傳播變得如此廣泛，互聯網架構師認為這是一種更純粹的民主形式，但他們沒有預料到假新聞和信息繭房的擴散

3.7.?人工智能在模擬空戰中已經超越了頂尖的人類飛行員

3.7.1.?未來的全球性沖突中，戰斗機飛行員將擁有“忠誠的”僚機—這些自主無人機將圍繞他們飛行，執行偵察任務，標記目標，干擾敵方信號，并通過大語言模型與飛行員保持通信，同時協同執行空襲任務

3.8.?防止核武器擴散需要國際合作與協議

3.9.?在20世紀，物理學家們揭開了宇宙的神秘面紗，相對論和量子力學如同兩顆璀璨的星辰，照亮了現代物理世界的每一個角落

4.1.?新技術如同雙刃劍，既能為人類帶來福祉，也可能被用于不正當的目的

4.2.?在大語言模型剛剛起步的時候，學者們還能自己搭建一些小型的語言模型

4.3.?當ChatGPT向大眾開放時，OpenAI已經從非營利性組織轉變為一個內部包含營利部門的公司，并且不再公開自己的技術細節，實際上變成一家封閉的人工智能公司

4.4.?Meta公司自己也開發了大語言模型Llama，只讓少數幾個學術實驗室先試用

4.5.?那篇在2017年發表、開創了Transformer架構的論文的八位作者，都已經離開了谷歌，自己創業，并成功籌集了數十億美元資金

4.6.?如果人工智能行業不能自我監管，政府將不得不介入

4.7.?主要影響

4.7.1.?隱私法：鑒于大語言模型依賴于海量數據進行訓練，這可能觸發與個人數據隱私和保護相關的問題
4.7.2.?版權法：大語言模型創作的內容（如文章、音樂或藝術作品)引發了版權歸屬的疑問
4.7.3.?責任法：如果大語言模型給出的建議導致損害，誰應該承擔責任？
- 4.7.3.1.?是使用者、開發者，還是擁有該模型的組織？
- 4.7.3.2.?現行法律可能還無法處理此類情況
4.7.4.?勞動法：隨著大語言模型等人工智能技術逐漸替代人類在某些領域的工作，我們可能會面臨深刻的社會結構轉變
- 4.7.4.1.?為應對這一變化，有必要對現有的勞動和就業法律進行相應的更新和完善
4.7.5.?反歧視法：大語言模型可能會在無意中延續或放大訓練數據中存在的偏見，進而導致歧視性后果，因此需要根據現行反歧視法規進行審查
4.7.6.?人工智能監管：隨著大語言模型逐漸融入社會，亟須制定專門法規來規范其使用，類似于對其他技術的現有監管
- 4.7.6.1.?這些法規應涵蓋透明度、問責制和倫理使用等標準
4.7.7.?大語言模型引發的法律問題既復雜又充滿未知

4.8.?為了妥善應對這些挑戰，需要技術專家、法律專家、政策制定者，以及社會各界進行深入的對話和廣泛的合作