大型語言模型（LLMs）對該領域產生了巨大影響，以至于有人稱2023年為生成式人工智能之年，這一稱號得益于ChatGPT（GPT-3.5）的發布、采用和媒體報道。當我們提到ChatGPT時，實際上是指產品而非底層模型。它首次發布時由GPT-3.5 LLM驅動，此后已發展到包括多個更高性能的變體，例如GPT-4.10。GPT-3.5并非生成式人工智能之年唯一產生影響的模型。如圖1-28所示，開源和專有LLMs都以驚人的速度走進了人們的生活。這些開源基礎模型通常被稱為基礎模型，可以針對特定任務（如遵循指令）進行微調。

10 OpenAI, “Gpt-4 technical report.” arXiv preprint arXiv:2303.08774 (2023). .

圖1-28?全面審視生成式人工智能的一年。請注意，這個概述中仍然缺少許多模型！

除了廣泛流行的Transformer架構外，還出現了諸如Mamba11,12和RWKV.13等有前景的新架構。這些新穎的架構試圖在具有額外優勢（如更大的上下文窗口或更快的推理速度）的情況下達到Transformer級別的性能。這些發展示例了該領域的演變，并展示了2023年作為AI真正繁忙的一年。我們竭盡全力才能跟上語言AI內部和外部的許多發展。因此，這本書探討的不僅僅是最新的LLM。我們將探討其他模型（如嵌入模型、僅編碼器模型，甚至詞袋模型）如何用來增強LLM。

11 Albert Gu and Tri Dao. “Mamba: Linear-time sequence modeling with selective state spaces.” arXiv preprint arXiv:2312.00752 (2023).

12 See “A Visual Guide to Mamba and State Space Models” for an illustrated and visual guide to Mamba as an alternative to the Transformer architecture.

13 Bo Peng et al. “RWKV: Reinventing RNNs for the transformer era.” arXiv preprint arXiv:2305.13048 (2023).

在我們對語言人工智能近期歷史的探索中，我們觀察到，主要是生成式解碼器-only（Transformer）模型通常被稱為大型語言模型。特別是當它們被認為是“大型”的時候。然而，在實踐中，這似乎是一個相當受限的描述！
如果我們創建一個與GPT-3具有相同功能但小10倍的模型會怎樣呢？這樣的模型會超出“大型”語言模型的分類嗎？

同樣，如果我們發布了一個和GPT-4一樣大，但只能進行準確文本分類而沒有生成能力的模型，它還會被認為是一個大型“語言模型”嗎？即使它仍然表示文本，但其主要功能不是語言生成。

這類定義的問題在于我們排除了有能力的模型。我們給一個模型或另一個模型起什么名字并不改變它的行為。

由于“大型語言模型”這個術語的定義隨著新模型的發布而不斷演變，我們想在這本書中明確它的含義。“大型”是任意的，今天可能被認為是大型模型的東西明天可能就是小型模型。目前對同一事物有很多名稱，對我們來說，“大型語言模型”也是那些不生成文本并可以在消費者硬件上運行的模型。

因此，除了涵蓋生成式模型外，這本書還將涵蓋參數少于10億且不生成文本的模型。我們將探討其他模型，如嵌入模型、表示模型，甚至詞袋模型如何用來增強LLMs。

傳統的機器學習通常涉及為特定任務（如分類）訓練模型。如圖1-29所示，我們將其視為一個一步過程。

圖1-29?傳統的機器學習包括一個步驟：為特定目標任務（如分類或回歸）訓練模型

相比之下，創建大型語言模型（LLMs）通常至少包括兩個步驟：

語言建模

第一步，稱為預訓練，占據了大部分的計算和訓練時間。大型語言模型（LLM）在大量互聯網文本上進行訓練，使模型能夠學習語法、上下文和語言模式。這個廣泛的訓練階段還沒有針對特定任務或應用，僅僅是預測下一個單詞。訓練出的模型通常被稱為基礎模型或基本模型。這些模型通常不遵循指令。

微調

第二步，微調或有時稱為后期訓練，涉及使用先前訓練過的模型并在更狹窄的任務上進一步訓練它。這使大型語言模型（LLM）能夠適應特定任務或表現出期望的行為。例如，我們可以微調一個基礎模型，使其在分類任務上表現良好或遵循指令。這節省了大量資源，因為預訓練階段相當昂貴，通常需要數據和計算資源，這些資源對于大多數人和組織來說是難以承受的。例如，Llama 2 已經在包含 2 萬億詞元的數據集上進行了訓練14。想象一下創建該模型所需的計算量！在第 12 章中，我們將介紹幾種在您的數據集上微調基礎模型的方法。

任何經過第一步預訓練的模型，我們都認為是預訓練模型，這也包括微調后的模型。這種兩步訓練法在圖1-30中進行了可視化展示。

圖1-30 與傳統的機器學習相比，大型語言模型（LLM）訓練采用多步驟方法。

可以添加額外的微調步驟，以使模型與用戶的偏好進一步一致，我們將在第12章中探討。

14 Hugo Touvron et al. “Llama 2: Open foundation and fine-tuned chat models.” arXiv preprint arXiv:2307.09288 (2023).

大型語言模型（LLM）的性質使它們適用于廣泛的任務。通過文本生成和提示，它幾乎就好像你的想象力是極限。為了說明這一點，讓我們探索一些常見的任務和技術：

檢測顧客留下的評論是積極的還是消極的

這是（監督）分類，可以使用僅編碼器和僅解碼器模型來處理，既可以使用預訓練模型（見第4章），也可以通過微調模型（見第11章）。

開發一個用于查找票據問題中的常見主題的系統

這是（無監督）分類，我們沒有預定義的標簽。我們可以利用僅編碼器模型來執行分類本身，以及僅解碼器模型來詞元主題（見第5章）。

構建檢索和檢查相關文件的系統

語言模型系統的一個主要組成部分是它們添加外部信息資源的能力。使用語義搜索，我們可以構建系統，使我們能夠輕松訪問和查找信息供大型語言模型（LLM）使用（見第8章）。

通過創建或微調自定義嵌入模型來改進您的系統（見第12章）。構建能夠利用外部資源（如工具和文檔）的LLM聊天機器人

這是一種技術組合，展示了通過額外組件可以發現LLM的真正力量。諸如提示工程（見第6章）、檢索增強生成（見第8章）和微調LLM（見第12章）等方法都是LLM難題的一部分。

構建能夠根據展示冰箱中產品的圖片編寫食譜的LLM

這是一個多模態任務，LLM接收圖像并對其所看到的內容進行推理（見第9章）。LLM正在適應其他模態，如視覺，這開啟了廣泛有趣的用例。

大型語言模型（LLM）應用非常令人滿意，因為它們的部分邊界是由你的想象力所限定的。隨著這些模型變得越來越精確，在實踐中將它們用于創意用例，如角色扮演和編寫兒童書籍，就變得越來越有趣。

大型語言模型（LLM）的影響已經而且可能繼續十分顯著，因為它們被廣泛采用。在我們探索LLM的驚人能力時，記住它們的社會和倫理影響很重要。有幾個關鍵點需要考慮：

偏見與公平性

大型語言模型（LLM）在訓練過程中使用了大量可能包含偏見的數據。LLM 可能會從這些偏見中學習，開始復制它們，并可能放大它們。由于 LLM 的訓練數據很少共享，除非嘗試使用它們，否則很難知道它們可能包含哪些潛在偏見。

透明度與問責制

由于 LLM 的強大能力，有時候很難判斷您是在與一個人還是與 LLM 交談。因此，在沒有人類參與的情況下，使用 LLM 與人類互動可能會產生意想不到的后果。例如，醫療領域使用的基于 LLM 的應用程序可能會被視為醫療器械進行監管，因為它們可能會影響患者的健康狀況。

生成有害內容

LLM 不一定會生成真實的內容，可能會自信地輸出錯誤的文本。此外，它們還可以用于生成假新聞、文章和其他誤導性的信息來源。

知識產權

LLM 的輸出是您的知識產權還是 LLM 創建者的知識產權？當輸出與訓練數據中的短語相似時，知識產權是否屬于該短語的作者？在沒有訪問訓練數據的情況下，很難知道 LLM 是否在使用受版權保護的材料。

監管

由于 LLM 的巨大影響，各國政府開始對商業應用進行監管。一個例子是歐洲人工智能法案，該法案規定了包括 LLM 在內的基礎模型的開發和部署。

在您開發和使用 LLM 時，我們想強調道德考慮的重要性，并敦促您了解更多關于安全和負責任地使用 LLM 和人工智能系統的信息。

我們迄今為止多次提到的計算資源通常與您系統上可用的GPU（圖形處理器）有關。一個強大的GPU（顯卡）將使訓練和使用大型語言模型（LLM）更加高效和快速。

在選擇GPU時，一個重要組成部分是你擁有的VRAM（視頻隨機存取存儲器）數量。這指的是你的GPU上可用的內存量。實際上，你擁有的VRAM越多越好。原因是一些模型如果你沒有足夠的VRAM根本就無法使用。

因為訓練和微調LLMs可能是一個昂貴的過程，從GPU的角度來看，那些沒有強大GPU的人通常被稱為GPU-poor。這說明了為了訓練這些巨大的模型而進行的計算資源爭奪。例如，為了創建Llama 2系列模型，Meta使用了A100-80 GB GPU。假設租用這樣的GPU每小時需要1.50美元，那么創建這些模型的總成本將超過500萬美元！15

不幸的是，沒有一條單一的規則可以確定你為一個特定模型需要多少VRAM。這取決于模型的架構和大小、壓縮技術、上下文大小、運行模型的后端等。

這本書是為GPU-poor準備的！我們將使用用戶可以在沒有最昂貴的GPU或大預算的情況下運行的模型。為此，我們將在Google Colab實例中提供所有代碼。在撰寫本文時，Google Colab的一個免費實例將為你提供一個帶有16 GB VRAM的T4 GPU，這是我們建議的最低VRAM量。

與大型語言模型（LLM）進行交互不僅是使用它們的重要部分，也是理解其內部工作原理的關鍵。由于該領域的許多發展，已經出現了大量用于與LLM通信的技術、方法和軟件包。在整本書中，我們打算探討最常見的交互技術，包括使用專有的（閉源）和公開可用的開源模型。

閉源大型語言模型（LLMs）是指不公開其權重和架構的模型。它們由特定組織開發，底層代碼保密。此類模型的示例包括OpenAI的GPT-4和Anthropic的Claude。這些專有模型通常得到大量商業支持，并已在他們的服務中開發和集成。

15 The models were trained for 3,311,616 GPU hours, which refers to the amount of time it takes to train a model on a GPU, multiplied by the number of GPUs available..

你可以通過一個與LLM（大型語言模型）通信的接口來訪問這些模型，這個接口被稱為API（應用程序編程接口），如圖1-31所示。例如，要在Python中使用ChatGPT，你可以使用OpenAI的包來與該服務進行交互，而無需直接訪問它。

圖1-31?閉源LLM通過接口（API）進行訪問。因此，LLM本身的詳細信息，包括其代碼和架構，不會與用戶共享。

專有模型的一個巨大優勢是用戶不需要擁有強大的GPU就可以使用大型語言模型（LLM）。提供商負責托管和運行模型，并且通常擁有更多的計算資源。關于托管和使用模型，沒有必要具備專業知識，這大大降低了進入門檻。此外，由于這些組織的重大投資，這些模型往往比開源同行更具性能。

然而，這樣做的缺點是它可能是一項昂貴的服務。提供商管理托管LLM的風險和成本，這通常轉化為付費服務。此外，由于無法直接訪問模型，沒有辦法自己對其進行微調。最后，您的數據與提供商共享，這在許多常見用例中是不可取的，例如共享患者數據。

開放大型語言模型（Open LLMs）是與公眾共享權重和架構的模型。它們仍然由特定組織開發，但通常會共享用于在本地創建或運行模型的代碼——這些代碼具有不同的許可級別，可能允許也可能不允許商業使用該模型。Cohere 的 Command R、Mistral 模型、微軟的 Phi 以及 Meta 的 Llama 模型都是開放模型的例子。

關于什么真正代表開源模型，目前仍在進行討論。例如，一些公開共享的模型具有寬松的商業許可證，這意味著該模型不能用于商業目的。對許多人來說，這不是開源的真正定義，開源的定義是使用這些模型不應有任何限制。同樣，模型訓練所用的數據以及其源代碼很少被共享。

你可以下載這些模型，并在你的設備上使用它們，只要你有一個強大的GPU，?可以處理這些類型的模型，如圖1-32所示。

圖1-32?開源大型語言模型（LLM）直接由用戶使用。因此，包括其代碼和架構在內的LLM本身的詳細信息會與用戶共享。

這些本地模型的一個主要優勢是，作為用戶的您對模型擁有完全的控制權。您可以在不依賴API連接的情況下使用模型，對其進行微調，并通過它處理敏感數據。您不依賴于任何服務，并且對導致模型輸出的過程具有完全的透明度。這一優勢得到了諸如Hugging Face等大型社區的支持，這些社區展示了協作努力的可能性。

然而，一個缺點是您需要強大的硬件來運行這些模型，而在訓練或微調它們時更是如此。此外，設置和使用這些模型需要特定的知識（我們將在本書中詳細介紹）。

我們通常更喜歡使用開源模型，只要我們能做到。這種自由讓我們可以隨意嘗試各種選項，探索內部工作機制，并在本地使用模型，可以說比使用專有的大型語言模型（LLM）提供了更多的好處。

與閉源LLM相比，開源LLM需要您使用某些包來運行它們。在2023年，發布了許多不同的包和框架，它們都以各自的方式與LLM互動并加以利用。在成百上千個可能有價值的框架中篩選并不是最愉快的體驗。

因此，您甚至可能會錯過本書中介紹的您最喜歡的框架！我們并不試圖涵蓋所有現有的LLM框架（太多，而且還在不斷增加），而是旨在為您提供一個利用LLM的堅實基礎。這樣，在閱讀本書后，您可以輕松掌握大多數其他框架，因為它們的工作方式都非常相似。

我們試圖實現的直覺是這一目標的重要組成部分。如果您不僅對LLM有直觀的理解，而且還在實踐中使用常見框架，那么擴展到其他框架應該是一項簡單的任務。

更具體地說，我們關注后端包。這些包沒有圖形用戶界面（GUI），旨在高效地加載和運行您的設備上的任何大型語言模型（LLM），例如llama.cpp、LangChain 以及許多框架的核心 Hugging Face Transformers。

我們主要將介紹通過代碼與大型語言模型交互的框架。盡管這些框架有助于你學習它們的基本原理，但有時你只是想要一個具有本地LLM的類似ChatGPT的界面。幸運的是，有許多出色的框架可以實現這一點。一些例子包括text-generation-webui、KoboldCpp和LM Studio。

使用語言模型的重要組成部分是選擇它們。尋找和下載大型語言模型（LLM）的主要來源是Hugging Face Hub。Hugging Face是著名的Transformers包背后的組織，該包多年來一直推動著語言模型的發展。顧名思義，該包是建立在我們在第5頁的“語言AI近期歷史”中討論的transformers框架之上的。

在撰寫本文時，您將在Hugging Face平臺上找到超過800,000個模型，用于許多不同的目的，從LLM和計算機視覺模型到處理音頻和表格數據的模型。在這里，您幾乎可以找到任何開源的LLM。

盡管我們將在整本書中探討各種模型，但讓我們從生成模型開始我們的第一行代碼。我們在整本書中使用的主要生成模型是Phi-3-mini，這是一個相對較小（38億參數）但相當高效的模型16。由于其小巧的尺寸，該模型可以在少于8 GB VRAM的設備上運行。如果您執行量化（一種我們將在第7章和第12章進一步討論的壓縮類型），您甚至可以使用少于6 GB的VRAM。此外，該模型采用MIT許可證授權，允許無限制地用于商業目的！

請記住，新的和改進的LLM會頻繁發布。為了確保本書保持最新，大多數示例都設計為可以與任何LLM一起使用。我們還會在與本書關聯的代碼倉庫中突出顯示不同的模型供您嘗試。

讓我們開始吧！當您使用LLM時，會加載兩個模型：

16 Marah Abdin et al. “Phi-3 technical report: A highly capable language model locally on your phone.” arXiv preprint arXiv:2404.14219 (2024).

? 生成模型本身

? 其底層的詞元器

分詞器負責在將輸入文本輸入生成模型之前將其拆分為詞元。您可以在Hugging Face網站上找到分詞器和模型，只需傳遞相應的ID即可。在這種情況下，我們使用“microsoft/Phi-3-mini-4k-instruct”作為模型的主要路徑。
我們可以使用transformers來加載分詞器和模型。請注意，我們假設您有一臺NVIDIA GPU（device_map="cuda"），但您也可以選擇其他設備。如果您無法使用GPU，可以使用我們在本書的存儲庫中提供的免費Google Colab筆記本：

from transformers import AutoModelForCausalLM, AutoTokenizer# Load model and tokenizermodel = AutoModelForCausalLM.from_pretrained("microsoft/Phi-3-mini-4k-instruct",device_map="cuda",torch_dtype="auto",trust_remote_code=True,)tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-3-mini-4k-instruct")

運行代碼將開始下載模型，根據您的互聯網連接可能需要幾分鐘的時間。
雖然我們現在已經有足夠的條件開始生成文本，但在transformers中有一個很好的技巧可以簡化這個過程，即transformers.pipeline。它將模型、分詞器和文本生成過程封裝到一個函數中：

from transformers import pipeline# Create a pipelinegenerator = pipeline("text-generation",model=model,tokenizer=tokenizer,return_full_text=False,max_new_tokens=500,do_sample=False)

以下參數值得一提：

return_full_text

通過將此設置為False，將不會返回提示，而僅返回模型的輸出。

max_new_tokens

模型將生成的最大詞元數。通過設置限制，我們可以防止過長且笨重的輸出，因為某些模型可能會繼續生成輸出，直到達到其上下文窗口。

do_sample

模型是否使用采樣策略來選擇下一個詞元。通過將其設置為False，模型將始終選擇下一個最可能的詞元。在第6章中，我們探討了幾個采樣參數，這些參數在模型的輸出中引入了一些創造力。

要生成我們的第一個文本，讓我們指示模型講一個關于雞的笑話。為此，我們將提示格式化為一個字典列表，其中每個字典與對話中的一個實體相關。我們的角色是“用戶”，我們使用“content”鍵來定義我們的提示：

# The prompt (user input / query)messages = [{"role": "user", "content": "Create a funny joke about chickens."}]# Generate outputoutput = generator(messages)print(output[0]["generated_text"])

Why don't chickens like to go to the gym? Because they can't crack the eggsistence of it!

就這樣！這本書中生成的第一個文本是一個關于雞的不錯笑話。

在這本書的第一章中，我們深入探討了大型語言模型（LLM）對語言人工智能領域的革命性影響。它顯著改變了我們處理翻譯、分類、摘要等任務的方式。通過語言人工智能的近期歷史，我們探討了幾種類型的大型語言模型的基礎，從簡單的詞袋表示法到使用神經網絡的更復雜表示法。

我們討論了注意力機制作為在模型中編碼上下文的一步，這是使大型語言模型（LLM）如此強大的關鍵組成部分。我們涉及了使用這種驚人機制的兩大類模型：表示模型（僅編碼器）如BERT和生成模型（僅解碼器）如GPT系列模型。在這本書中，這兩類都被認為是大型語言模型。

總的來說，本章概述了語言AI領域的概況，包括其應用、社會和倫理影響以及運行這些模型所需的資源。我們最后使用Phi-3生成了我們第一段文本，這本書將貫穿使用這個模型。

在接下來的兩章中，您將了解一些基本過程。我們從第2章開始探討分詞和嵌入，這兩個部分常常被低估，但在語言AI領域至關重要。第3章將深入研究語言模型，您將發現用于生成文本的確切方法。