對話模型和補全模型區別

什么是對話模型、補全模型

什么是 Completion

最基本地說，文本模型是一個經過訓練的大型數學模型，旨在完成一項單一任務：預測下一個 token 或字符。這個過程被稱為 completion，在您的旅程中您會經常遇到這個術語。
例如，當使用 completion 文本模型 gpt-3.5-turbo-instruct 時，您可以向模型提供初始提示：

A long time ago, there were three princesses in a distant kingdom:

什么是 Chat Completion

Chat Completions API
聊天補全 API

為了使文本模型在代碼和應用程序中發揮作用，而不僅僅是生成任意的創意信息，模型需要經過預訓練，以特定的格式返回數據。 通常，使用文本模型感覺像是一種聊天體驗：你以某種角色提問，你會得到一個答案，就像來自另一個角色的人的回答一樣。考慮到這一點，模型提供商訓練他們的模型，并用一些元數據（例如角色）來提供他們最初的訓練數據。這使得模型能夠以某種格式做出響應，并用于許多復雜的應用程序。

例如，模型訓練數據可能如下所示：

USER: What's the color of the sky?
ASSISTANT: The color of the sky can vary depending on several factors, but it is most commonly perceived as blue during the daytime.
USER: What was the theme we discussed in the previous sentence?
ASSISTANT: The theme of the previous sentence centered around the color of the sky.

上述數據以類似聊天的對話形式編寫。訓練數據集包含大量此類對話，在訓練過程中，模型學習單詞和字符之間的關系，使其能夠以相同的可預測格式返回它們。

在生成數據后，一個子系統會解析這些信息，并以易于你的代碼處理的格式返回，例如以下 JSON：

[