▼最近直播超級多，預約保你有收獲

—1—

什么是 LLM OS？

關于 LLM OS 的最初構想源自@karpathy 在2023年11月11日發布的一條Twitter 動態，這是 LLM OS 概念的最早出處，如下圖所示：

LLM OS 主要有以下5個部分組成：

第一、LLM 作為 「CPU」：OpenAI GPT-4 Turbo；

256 核心(即 batch size，數據送入 LLM 的批次大小)
處理器頻率 @ 20Hz (tok/s，即吐 token 的速度)

第二、上下文窗口大小作為 「RAM」: 128Ktok(GPT-4 Turbo 的水平)；

第三、嵌入工具作為「文件系統」: Ada002 是 OpenAI 的文本嵌入工具；

第四、外設 I/O：視頻、音頻；

第五、以太網：瀏覽器；

第六、軟件 1.0 工具：經典計算機，計算器、代碼解釋器、終端等等；

第七、可與其他 LLM 互聯。

—2—

LLM OS 開源實現

隨著 OpenAI 發布 GPT-4o，語音、視頻等多模態的輸入和輸出，讓 LLM OS 的實現成為可能。接下來我們詳細介紹下 LLM OS ?的開源實現，目前已有 8.6k Stars，Github 地址如下所示：

https://github.com/phidatahq/phidata/tree/main/cookbook/llm_os

LLM OS 的整體架構設計如下圖所示：

第一、大語言模型（LLMs）是新興操作系統的核心進程。

• 這個進程（LLM）可以通過協調其他資源（內存、計算工具）來解決問題。

第二、LLM 操作系統：

• 可以讀取/生成文本；

• 
  關于所有主題的知識都比任何單個人類更豐富；

• 可以瀏覽互聯網；

• 
  可以使用現有的軟件基礎設施（計算器、Python、鼠標/鍵盤）；

• 可以查看和生成圖像和視頻；

• 可以聽和說，并生成音樂；

• 可以使用 System2 進行長時間的思考；
  

• 可以在特定領域“自我提升；

• 可以針對特定任務進行定制和微調；

• 可以與其他 LLM 進行通信。

—3—

運行 LLM OS 開源實現

運行 LLM OS 開源實現 phidata 只需要簡單如下5步操作：

第一步：Create a virtual environment

第二步：Install libraries

第三步：Export credentials

第四步：Run PgVector

第五步：Run the LLM OS App

為了幫助同學們徹底掌握 AI 大模型?Agent 智能體、知識庫、向量數據庫、 RAG、微調私有大模型的應用開發、部署、生產化，今天我會開場直播和同學們深度剖析，請同學們點擊以下預約按鈕免費預約。

—3—

領取 AI 大模型學習資料

不會吧，都2024年了，還有人在網盤、B站上爬學習資源？

今天給大家搞到的是一份大廠內部都在用的『AI 大模型學習資源』：

?形式：直播公開課

?費用：原價299，本號用戶0元白嫖

?內容：大模型原理、Agent、LangChain、Spring AI、RAG、向量數據庫、知識庫、私有大模型、算力評估...

掃碼預約報名

👇『AI 大模型學習資源』👇

堪稱資源界的YYDS！

“得此資源，堪比1000G網盤資源”

👇👇👇

本期名額有限

—4—

領取《AI?大模型技術知識圖譜》

這份業界首創知識圖譜和學習路線，今天免費送了!

第一步：長按掃碼以下視頻號，你身邊需要一個 AI 專家。

第二步：點擊"關注按鈕"，就可關注。

第三步：點擊"客服“按鈕，回復“知識圖譜”即可領取。

?—5—

每日精選 AI 大模型知識

END