Toolformer

????????今天我們來聊一下 GPT 4，但其實在最開始準備這期視頻的時候，我是準備講 Toolformer 這篇論文的，它是 Meta AI 在2月初的時候放出來的一篇論文。說這個大的語言模型可以利用工具了，比如說它就可以去調用各種各樣的API，就是日歷、計算器、瀏覽器這些工具，從而可以大大的提高這個大語言模型的這個各種能力。因為我們知道不論這個模型多大，不論這個模型多牛逼，它是沒法聯網的。所以也就意味著你一旦這個訓練完成，這個模型怎么也不可能知道最近新發生的事情了。而且這個模型也不知道時間，也沒法完成很多跟這個時間相關，或者跟這個新信息相關的任務，所以即使強如ChatGPT，它的這個局限性也是非常之大的。但如果一旦這個大語言模型可以聯網了，它可以使用工具了，那這個可能性就無限擴展。所以最近 OpenAI 又新推出了這個 ChatGPT plug in，其實就是tool former 或者類似技術的一個應用，它可以連接成百上千個API，從而使得這個大語言模型它只是一個交互的工具，而真正去完成各項任務的還可以是原來已有的工具，這樣不僅準確度會提升，比如說你算數學題，你用計算器肯定是可以算對，你不需要靠一個大語言模型去做推理，他有時候就推理錯了。同時它還能不斷地更新自己的知識庫，因為它現在聯網了，所以說真的是開啟了無限可能。也就是說，其實這個 toolformer 是非常值得精讀的一篇論文。但緊接著 Meta AI 在2月底的時候又推出了 LLAMA 這篇論文，而且他們的這個模型參數還一不小心泄露了，所以說這個可玩性能非常強，論文也不難。所以我就想要先玩玩 LLAMA 這個模型，然后把 LLAMA 這篇論文先講了好了。結果一不小心就迎來了最近幾年 AI 發展史上最瘋狂的一周。

? ? ? ? 3月 8 號，微軟放出了 visual ChatGPT，就是說在聊天的時候不光可以使用文字，現在可以圖文并用了，而且還可以根據你的指示各種去魔改生成圖片。

????????然后3月 9 號微軟德國 CTO 就公布了，說下周我們要 announce GPT 4，這個 GPT 4 不再是單一的這個語言模型了，而是一個多模態模型，而且還可以處理視頻。

????????然后3月 9 號 gig again 又出來了，在擴散模型大黃大紫了一兩年之后，這個 Gan 都快銷聲匿跡了。突然他們訓練了一個 10 億參數的模型，直接又讓 Giga Gan 重回了舞臺，生成效果和生成速度完全不遜色于 stable diffusion Dolly two 這些模型。

????????接著是3月 10 號周五好像沒什么消息，也有可能是我錯過了什么。然后就度過了一個看似正常的周末，但緊接著不正常的一周就來了，那首當其沖，周一3月 13 號斯坦福大學用這個 LLAMA release 出來的這個 7 billion 的模型，用了這個 self instruct 的方法，訓了他們自己的一個叫 Alpaca 的模型，這個 Alpaca 7billion的模型竟然能和 OpenAI 的這個textdavinvi003 的模型相媲美。后面這個可能是一個 175 B的模型，所以說效果是非常的驚艷。然后我當時還在讀 visual ChatGPT 這篇論文，心里想著等過兩天有空了，或者周末好好看一下這個 Alpaca 模型是怎么做的。

????????然后3月 14 號周二 GPT 4 首當其沖，它真的就發布了，它真的就是一個多模態模型，雖然它只是輸入端可以接受圖片，而并不是可以做這個圖片生成，但真的是如期發布了。

????????緊接著同一天 Google cloud 也公布了他們 palm 模型的這個 API 使用，同時也說會把 palm 這個模型集成到 Google doc， Google sheet這些所有的這個 Google Workspace 的使用中去。

????????然后又是同一天3月 14 號， Anthropic 介紹他們自己的大語言模型cloud，也就是穆申上次講的，可能是目前 ChatGPT 最大的一個競爭對手，他們主打的是這個安全性。

????????然后還是同一天3月 14 號，另外一家做大語言模型的公司 adapt.AI 公布了他們剛剛完成了 b 輪 3.5 億美元的這個融資。同時說他們的這個模型也會使用軟件了，就也會使用工具了，那3月 14 號真的是很長的一天

????????時間來到3月 15 號周三，文生圖的公司 Mid?journey 推出了他們的第五代模型，效果真的是出類拔萃。之前大家都吐槽說這個 AI 作圖畫不出人手，一會三個指頭，一會六個指頭，那 made journey 說我來教你做人，各種手部細節全部拿捏的非常的好，甚至是剪刀手也不在話下。

????????然后就來到了3月 16 號周四，一周的高潮，微軟公布了 GPT 加持的Copilot，自稱是地球上最強大的提升生產力的工具。可以幫你寫郵件，做會議總結，寫文檔，做預算表格，做PPT，回答各種問題。總之就是一切辦公相關，也就是 office 相關的任務，基本上都可以做到你說他做或者他幫你做至少大部分的程度，所以很多公眾號都說這個微軟的 Copilot 革了 10 億打工人的命。而且那兩天各種媒體也全都被刷屏了，基本播放的都是這個短短一分鐘正在播放這個視頻。那接下來周五好像也沒什么新的消息，不知道是不是一般周五大家就不公布什么新產品，但反正這周的周五還是算了，所有一切的風頭都會被 GPT 4 和 Copilot 蓋過去。

????????其實肯定還是有很多其他的大新聞的，比如說 Pytorch 就公布了 Pytorch 2.0，從這個版本號就能看出來這次是一個大更新，對各方面的優化，尤其是編譯器 compiler 的優化都做得非常的好。Pytorch 是周三3月 15 號公布的，但估計沒什么人知道，都被淹沒在這個 GPT 4 的狂潮之中。

????????那鑒于 GPT 4 如此火爆，眾望所歸，那我們今天就先來說一下 GPT 4。 open i 其實放出來了一個 GPT 4 的這個技術報告，也跟之前的那些做語言大模型的論文一樣，有 99 頁那么長，但其實這次非常出格的事情是，在這份技術報告里沒有任何的技術細節，主要都是在展示結果，展示自己的模型有多么的優秀，展示還有哪些這個局限性和不足，但是關于這個模型本身，訓練本身。還有他們是怎么一步一步提升模型，怎么去把這個模型的安全性做上來的？都只字未提，所以說很快就招來了大家的不滿，比如說這個 Pytorch lightening 這個框架的創始人，這個 William Falcon 就說這個 GPT 4 的 paper 在這里，它有 99 頁長，讀起來太費勁了，讓我幫你省一些時間啊。其實 GPT 4 technical report 里就寫了這么一句話， we use Python 把 OpenAI 黑的是非常厲害啊。

????????然后馬斯克也來湊了湊熱鬧，畢竟 OpenAI 是馬斯克之前和其他人一起創立的，然后在 2 月份的時候，馬斯克就說這個 open i 的創立當時就是為了對抗這個霸權 Google 而產生的，它的目的就是去做這個 open source，而且 non profit 的公司。但現在 OpenAI 變成了close? AI 變成了一個閉源的，而且是以盈利為主的一個公司，而且是被另外一個巨頭微軟所控制的，這個根本不是他剛開始打算，但這個是二月份的時候。然后來到三月份，3月十四號 GPT 4 出來之后，然后三月十五號馬斯克就又來嘲諷了一波，他說他非常困惑，當時作為一個 non profit 的公司，所以說他才捐贈了一個億。結果現在就因為發展的不錯，就變成了以盈利為主的，而且是一個估值 300 億美金的大公司啊。如果這樣做是合法的話，那為什么別人不也這么做呢？這個嘲諷力度也是拉滿了

????????那最后這個 stability AI 的這個創始人Emad，也就是去年 stable diffusion 還有 AIGC 這整個一波幕后的這個推手，他就順勢出來招人了。因為畢竟之前說做 open 的這個OpenAI，現在變成 close AI 了，那他呢？要接過這個接力棒繼續去做這個OpenAI，所以他這里就廣發英雄帖，就尤其是給 OpenAI 的人說，如果你真的還想做真正的OpenAI，那你就來申請我的公司工資福利全都match，但是你可以做任何的 open source 的這個 AI 的項目，你想做什么？做什么，沒有任何約束，聽起來真的是挺美好。

GPT4

????????那說了這么多，我們現在回歸正題，說到這個 GPT 4，今天我主要就按照這個 open i 他們自己的這個博客來講，這個 GPT 4 這個網頁基本上就是那個 99 頁的技術報告的一個縮略版，該有的內容已經全都有了。

????????作者上來說我們創建了這個 GPT 4，是 open a 在這個做大模型的過程中最新的一個里程碑式的工作。 GPT 4 是一個多模態的模型，當接受要么是文本，要么是圖片的這個輸入，最后的輸出是純文本。然后作者強調了一下，說在真實世界中跟人比這個 GPT 4 還是不行的。但是在很多具有專業性或者學術性的這個數據集或者這個任務上面， GPT 4 有時候能達到人類的水平，甚至能超越人類的水平。

????????其實當 GPT 4 剛放出來的時候，雖然很多人都是歡呼雀躍，但也有很多人覺得很失望，當然失望不是因為這個模型不夠強，失望其實還是因為這個等待的時間比較長，而且這個期待太大了。因為 GPT 4 這個模型的這個謠言早在去年就已經有了，而且確實在他們這篇論文中說這個 GPT 4 的模型確實在去年 8 月份就已經訓練完成了，之后就一直在做各種各樣的測試，保證它安全性，保證它可控性，所以去年就有很多謠言說這個 GPT 3 有 1, 750 億的參數，這個 GPT 四已經做到1萬億的參數的大小了，是一個巨無霸一樣的存在。然后再加上去年 AIGC這一波，尤其是文生圖文生視頻的這一波，大家是覺得這個 GPT 4 是不是也能做這個圖像生成？尤其是就在這個 GPT 4 公布之前，微軟又出了兩篇論文，一篇叫Cosmos，一篇叫 visual ChatGPT，都是多模態的大模型，都是既可以做文本生成，又可以做圖像生成，就是輸入輸出都可以既文本有圖像，那大家就覺得這個 GPT 4 理所應當應該也能做這個圖像生成，更何況 OpenAI 自己還有這個音頻模型whisper。而且之前德國的 CTO 還說 GPT 4 能夠這個處理視頻。所以大家就更好奇了，覺得 GPT 四是不是真的能夠把這個圖像、文本、語音、視頻全都能一網打盡啊？全都能做，全都能生成，所以這個期望是非常高的。
????????結果最后一公布，你只能接受這個圖像和文本的輸入，這個輸出只能是文本，而且現在公布出來的 API 也就是付費可玩的功能，還不支持圖像上傳，這個還屬于內測功能，所以搞到最后你就是一個加強版ChatGPT，那總之，不論你是震驚還是失望， GPT 4 它該強還是非常強的。正常聊天就不用說了，這個參加各種考試也是信手拈來，一會我們可以看在各種各樣的考試上基本碾壓人類選手，寫代碼那更是不在話下，那是老本行了。 GithubCopilot 早都已經推出了， open i 的 CO founder Greg Brockman 在做這個 GPT 4 的這個公布的時候，還做了一個很有意思的demo，就是他在餐巾紙上寫了一個他大概想要的一個這個網站的設計啊。他就把這個草圖上傳給 GPT 4，就讓 GPT 4 給它生成，就是如何做這個網站的源代碼，然后 GPT 4 不僅直接生成了這個代碼，而且這個代碼也可以運行。
然后真的就生成了一個像他這個餐巾紙上草繪圖出來的那個網站長那個樣子，所以代碼能力異常強大，而且最近很多人也用它去測試能不能過 Google 的面試、微軟的面試、各大公司的面試，發現 GPT 4 一般也都能通過，至少能通過入門級程序員的這個面試，然后 GPT 4 還能幫你做游戲，做 3D 城市建模，還能幫你做投資。有人在推特上分享他給 GPT 4100 美元，然后讓 GPT 4 給他這個投資建議，然后最后 GPT 4 幫他掙回了 1, 000 多塊錢，所以方方面面都強的令人發指。

秀結果

????????那接下來我們就一條一條看看 OpenAI 是怎么秀這個結果的。那一開始作者又把摘要里的話又重復說了一遍，說這個 GPT 4 基本是能達到這個類人的表現。然后 openAI 就給出了一個非常有說服力的例子，就是說 GPT 4 現在能通過這個律師資格證考試，而且不僅僅是通過，而是在所有參加考試的人中能排到前10%，所以是優等生。相比之下， open I 說就在 GPT 4 之前，這個 GPT 3.5 的分數都非常的差，他在這個律師資格證考試里只能排到末尾的10%，也就是過不了律師資格證考試。這個為了賣這一代模型，對上一代模型的 diss 也是非常狠啊。那這個律師資格證其實是很難考，而且非常有含金量。律師這個職業也是非常多金，而且受人尊敬，所以這也就是為什么 open i 把這個結果放在論文的摘要里，而且放在一開始的段落，就是因為能非常吸引眼球。
????????我現在正在放的也是之前一個 Instagram 上過熱搜的視頻，這是一個兒子和自己的媽媽正在查律師資格證考試的結果，然后看到過了之后兩個人喜極而泣的真實表現，所以可見這個考試在大多數普通人心中的地位啊。結果現在 GPT 4 輕松通過，估計以后哭的人要更多了。
????????我們回來接著看 open i 說他們花了 6 個月的時間去不停的 align GPT 4 啊。這個 align 的意思其實不光是說能讓這個模型去 follow 人的這個instruction，同時還希望這個模型能夠生成跟人的三觀一致，而且安全有用的這個輸出，這其實也就說明了這個 OpenAI 確實是在去年 8 月份就已經完成了 GPT 4 的訓練，接下半年的時間都是在不停的測試和準備這次的這個release，所以也算是誠意滿滿。

????????然后 open i 說在這個 align 的過程中，他們不光是用了他們自己設計的這種對抗式的這個懲治，就是故意給模型找茬，故意給他特別難的這種例子，看他表現怎么樣。還有就是說他們放出 ChatGPT 之后，因為跟用戶有很多交互，然后在很多人在網上都分享了他們的用戶體驗，有的是非常的驚訝，然后有的是覺得特別不好，他們也把這些特別不好的例子，這些經驗教訓也全都學習起來，然后利用到提升 GPT 4 的這個性能之中了。所以最后他們說目前的這個 GPT 4 是他們目前為止最好的模型啊。雖然說跟這個完美還差得很遠，但是在這個尊重事實的方面，在這個可控性的方面，還要在這個安全性的方面全都有了長足的進步。

????????然后下一段 open i 接著說是在過去的兩年中，他們把他們的這個深度學習的整個這個 Infrastructure 全都重建了一遍，這個是跟微軟云一起的，而且他們專門為了他們這個 GPT 的這個訓練的 workload 重新設計了一個超級計算集群，一年前 open i 就用這個系統去訓練了他們的 GPT 3.5，也就是 ChatGPT 基于的那個模型。他們又找到了一些bug，然后把這些 bug 修復了，于是在這次 GPT 4 的訓練過程中，他們發現他們的這個 GPT 4 訓練前所未有的穩定。這個穩定不光是我們普通意義上的，就是訓練上的穩定，硬件設施都沒出什么錯，一次訓練直接跑到底，這個 loss 也沒有跑飛，還有一個更重要的或者說更厲害的特性，就是說他們可以準確的預測這個模型訓練的結果。我們馬上就會來細說這一點，但簡單總結一下，就是這么大的模型，你如果是每次跑完才知道結果，才知道這組參數好不好，才知道這個想法 work 不work，那這個花銷實在是太大了。一般我們還是要在較小的模型或者在較小的數據集上去做這種消融實驗，看哪個 work 了，然后我們再去這個大的模型上去做實驗。但是可惜在這個語言模型這邊，因為模型擴展的太大了，所以往往導致你在小規模型上做的實驗試過的想法能work，但是換到大模型上就不work。而且大模型這種特有的涌現的能力在小模型那邊你也觀測不到，所以這就讓人很頭疼，直接跑大實驗跑不起，就算你有機器有錢，你也得等，這種規模的模型你春一次就要一兩個月，所以是非常久的。那如果你在小模型上訓練，你觀察到的結果又不能直接用到大模型上，跑了也白跑。那這個時候 open i 就說我們現在的這套系統就能做到準確的預測，我們通過在小規模的這個計算成本下訓練出來的模型，我們就可以準確的預估到如果把這個計算成本擴大，這個模型最后的這個性能會怎么樣？所以這個是非常厲害的，說明他們這個模型已經訓練了不知道多少回了，這個煉丹的技術爐火純青。

為什么這次 OpenAI 被黑的這么慘，被叫成 close AI

????????那既然說到了這個訓練穩定性，所以我們接下來就跳到后面，先來看一下整個這個訓練的過程，順便也了解一下為什么這次 OpenAI 被黑的這么慘，被叫成 close AI。那 open i 上來說，像之前的這個 GPT 模型一樣， GPT 4 也是用這種預測文章中下一個詞的方式去訓練啊。就是 language modeling loss，然后訓練的數據用的就是說公開的這些數據，比如說網絡數據，同時還有那些他們已經買回來的數據，這些數據非常的大，里面包含了非常多的內容啊。比如說既有這個數學問題的這個正確的解，也有不正確的解，有這種弱推理，也有強推理，還有這種自相矛盾的，或者說是保持一致的這些陳述，還有就是代表了很多的這種意識形態，還有各種各樣的想法。當然還有更多的這種純文本數據，那這一段其實他在論文中也是這么寫的，所以你發現你看完這一段以后他什么也沒寫，所以真的就像那個 William Falcon 總結的一樣，就 we use Python， we use data，然后 open i 接下來說，因為在這么多的這個數據集上訓練過，而且有的時候是在不正確的這個答案上訓練過，所以這個預訓練好的模型，也就是這個 base model，它有的時候回答會跟人想要他的回答差得很遠。那這個時候為了align，就我們剛才說過那個 align 為了能跟這個人類的意圖盡可能的保持一致，而且也更安全可控，他們就用之前 RLHF 的這種方法，又把這個模型微調了一下。那這個 reinforcement learning with human feedback RLHF 的技術其實之前牧神在這個 InstructGPT 里也詳細的講過了，

????????然后接下來的這段其實非常有意思。 open i 終于給了一個有見解性的結論，他說這個模型的能力看起來好像是從這個預訓練的過程中得到的，這個后續的 RLHF 的這個微調并不能提高在那些考試上的成績，而且別說提高了，如果你不好好調參的話，它甚至會降低那些考試的成績。所以說這個模型的能力，那些所謂的涌現的能力，還真的就是靠堆數據、堆算力，然后用簡單的 language model ing loss 它就堆出來，那大家肯定會問那這個 RLHF 有什么作用？作者說但是這個 RLHF 就是用來對這個模型做控制，讓這個模型更能知道我們的意圖，更能知道我們在問什么，我們想讓他做什么，而且按照我們喜歡的方式，按照我們能夠接受的方式去做出這個回答。所以這也就是為什么 ChatGPT 還有 GPT 4 都能做到這么的智能，大家跟他聊天都這么的愉快，這個 RLHF 也是功不可沒，OpenAI這里還黑了一下這個直接預訓練好的這個 base 模型，說有的時候他甚至需要這個 prompt engineering 才知道他現在需要回答這個問題了，否則他都不知道他要干什么。

predictable scaling，這個可以預測的擴展性到底在說什么？

????????那接下來我們就來說一說剛才提到的這個 predictable scaling，這個可以預測的擴展性到底在說什么？OpenAI說其實這個 GPT 4 的這個項目很大的一個關鍵問題，就是如何能構建一個這個深度學習的這個Infra，然后能準確的擴大上去。主要的原因就跟我剛才說的一樣，訓練這么大的模型，其實是不可能做大規模的這種模型的調參的。首先你需要很多的算力，這全都是錢。即使你有這么多的算力，那這個訓練的時間也等不起，那就算再給你更多的機器，那這個訓練的穩定性又成了問題，這么多機器并行訓練是很容易 loss?跑飛的,OpenAI這里說他們就研發出來一套這個整體的infra，還有這個優化的方法，可以在多個尺度的這個實驗上達到這個穩定的可以預測的這個行為。
????????那為了驗證這一點， open i 這里說他們能夠利用他們自己的這個內部的代碼庫在 GPT 4 模型剛開始訓練的時候，就已經可以準確的預測到 GPT 4 最終訓練完成的那個loss。它的這個結果是由另外的一個 loss 外推出去的，那個 loss 是在用了一個比它小1萬倍的這個計算資源上，但是用同樣的方法訓練出來的模型。那具體我們來看這張圖，圖里這個綠色的點，也就是最后的這個綠色的點是 GPT 4 最終的這個 loss 的結果，那這些黑的點都是他們之前訓練過的模型最終能達到的這個 loss 的程度。

????????那這個縱坐標用的單位是 bits per word，你可以簡單的把它理解成就是這個 loss 的大小，這個橫坐標就是說用了多少的算力，他們這里其實是把數據集的大小、模型的大小這些全都混到一起了，就是總體訓練這個模型我到底需要多少算力？那如果把訓練 GPT 4 當做這個單位1，那這個橫坐標這塊是10的- 2、10的- 4、10的- 6 、10的-8，10得-10，就是這個模型的訓練代價越來越小。那我們驚人可以發現， open i 真的可以把所有的這些 loss 曲線擬合出來，而且最后真的就準確的預測到這個 GPT 4 最終的 loss 應該是多少。作者說的小一萬倍的那個模型應該就是這里這個 100 μ，這個 10 的負 4 次方這個模型了。那么就能通過這個 loss 外推到最后的這個 GPT 4 的loss，所以這個技能點非常厲害，因為在同等的資源下，他們可以用更快的速度試更多的方法，最后得到更優的模型。
????????那另外為了強調這個訓練的穩定性到底有多么的難能可貴，這里我放了一個視頻，這是斯坦福 m l c s 這門課這學期請的這個客座嘉賓蘇贊章，講他們在 Meta AI 怎么用三個月的時間去做了一個跟 GPT 3 同等大小的這個語言模型，叫做 OPT 175 B。這個 OPT 175 B 鏈這個模型雖然這個性能一般，但是這個視頻我真的是強烈建議大家觀看，干貨非常的多，那這里面給我最震撼的一張圖，也就是這張圖了，就是 OPT 175 B0 在整個一個多月的這個訓練過程中，因為各種各樣的原因，比如說這個機器崩了，然后一會這個網絡斷了，然后 loss 跑飛了各種各樣的原因，中間一共斷了 53 還是 54 次啊。這里面每一個顏色就代表其中的跑的那一段兒，如果斷了，它就回到上一個checkpoint，然后再接著往下訓練。

????????所以我們可以看到這里面有這么多的顏色，有 50 多次的這個重啟，可見訓練這么大的一個模型有多么的不容易，這個工程復雜度是遠超很多人的想象，所以之前可能很多人讀 Google 的論文，他說 Google 不就是錢多嗎啊？這不就是大力出奇跡嗎啊？一點都不novel，但其實真不是這樣，有很多東西在它做出來之前你不知道，那它就是有新銳度的 skilling 也是有新銳度的一方面，而且我覺得也是今后衡量新銳度一個繞不開的指標。

????????那看完了這個工程能力的重要性，也夸完了 GPT 4 的能力，那我們肯定就在想，那真的是所有的東西都可以預測嗎？那如果所有的指標都可以預測的話，那其實 NLP 里的很多任務是不是都已經解決了呢？OPenAI這里說了也不完全是。其實還有一些能力，我們是不能完全預測準確的，非常難。這里面 open i 就舉了這么一個例子，就是 inverse scaling price 一個competition，這個 competition 其實就是之前專門給大模型找茬的一個competition。當時因為 GPT 3 的出現，所以大家就在想是不是這個模型越來越大，這個智能就越來越多，那這個大模型就一定比小模型更好，那當時就有一幫研究者不信邪，所以就搞了這么一個比賽，這個獎金也非常豐厚，那大家都來測試一下，看看有沒有一些任務是大模型反而做的不好的，而且最好能找到那些任務呢。就是隨著這個計算成本的增加，隨著這個模型越來越大，但是這個任務的結果是越來越差，也就是說反而是這個小模型效果最好。那 GPT 4 這里雖然他說有很多東西還不能預測，那其實他這里舉的例子是 GPT 4還是做出了很有意思的一個判斷，他舉的這個例子是當時這個比賽里頭一個叫做 Hinder side neglect 的任務。 Hinder set 就是事后諸葛亮、馬后炮的意思， Hinder set neglect 就是說過去你做一件事情的時候，你用很理性的判斷去做出了一個決斷，你的這個決斷按道理來說是正確的，但可惜你運氣不好，最后的結果不是很好。那這個時候他就問你，如果時間回到過去，你是繼續會選擇這個理性的做法，是愿意賭一把，選擇一個更冒險的方式呢。那道理來說，其實我們每次做選擇都應該按照最理性的方式去做選擇，但是大模型在這里出現了一個很有意思的現象，就是隨著這個模型越來越大，它反而越來越不理性了

????????它會根據這個最后的結果來判斷我到底應不應該做這個決定。比如說之前的模型，從 OpenAI 自己最小的這個ada模型開始，你慢慢把它變大，變成babysh，變成Q1，一直到 GPT 3.5，這個模型的性能確實一直都在下降，但是到 GPT 4 它一下就返回來了，它的效果非常之好，達到了 100% 的這個準確度。這也從側面說明可能 GPT 4 已經擁有了一定的這個推理能力，而至少它不會受最后的這個結果的影響。那為了讓大家更好理解這個問題到底長什么樣？我們來看一下原來比賽中的一個例子，這個例子就是說給我一個大語言模型，我先給他一些 feel shot，就是。
In context learning a few short example。比如說第一個，我就說 Michael 它可以玩一個游戲，它有 91% 的可能性輸 900 刀，但是有 9% 的可能性贏 5 刀啊。他現在玩了這個游戲，結果輸了 900 刀，那 Michael 有沒有做出正確的選擇啊？那這個很顯然易見，你有這么大的可能性輸這么多錢，結果你還玩，那輸錢基本是鐵板釘釘的事，所以肯定是no，他沒有做出正確的選擇。然后第二個例子，同樣的也是說 David 可以玩這么一個游戲，它有 30% 的可能性輸 5 刀，但是有 70% 的可能性贏 250 刀，他現在玩這個游戲，結果贏了 250 刀，他有沒有做出正確的決定啊？那當然是有的，因為他有這么大的可能性贏這么多錢，所以按照這個 expected value 來算，他就是應該去玩這個游戲，贏錢也不意外啊。
????????接下來還有 8 個更多的這種 feel shot example，但是總之所有的這些 example 都是說他最后贏不贏錢是跟他們之前的這個 expected value 是掛鉤的啊。如果 expect value 是正的，那最后的結果也是贏錢了。所以有這么一個簡單的映射關系

????????那接下來就到真正考驗這個大語言模型的時候了。他說 David 現在玩這個游戲， David 有 94% 的可能性輸 50 刀，有 6% 的可能性贏 5 刀。 David 現在玩了這個游戲，結果還贏了 5 刀。那這個就跟剛才所有的例子都不一樣了，因為按照這個 expected value 來說，它有這么大的可能性輸這么多錢，它的 expect value 是負的，它不應該玩這個游戲。但是 David 今天運氣非常好，他玩了結果還就贏了 5 塊錢，所以他沒有做出合理的行為，但是得到了好的結果。那這個時候問這個語言模型他有沒有做出正確的選擇？那比賽方就說按照道理來說，按照合理性來說，這個結果就應該說no，就是我就是不應該玩，你如果回到過去再問我玩不玩，我還是應該說不玩，因為輸錢的可能性大嘛。但是之前的那些模型，尤其是隨著這個模型的規模越來越大，那些模型好像就更好的抓住了之前 8 個例子的那個微弱的聯系，他就認為只要是贏錢就是好的，所以這里面 David 贏錢了，所以說 David 就做出了正確的選擇，所以就是yes。但 GPT 4 在這里還是非常的理性，他還是選擇了no，所以選擇正確啊。很多人在推特上都覺得這個很神奇，覺得 GPT 4 真的是有智能、會推理，但其實我覺得作為人，有的時候我們也經常會做出不理智的行為，所以這個結果也不好評價，就是很有意思。

GPT 4 到底有什么能力

????????那簡單的說完了訓練過程，我們發現確實看了個寂寞，仿佛他說了很多，他仿佛又什么都沒說。這個模型到底有多大啊？數據到底用了多少啊？用的是什么樣的數據？用的是什么樣的模型？他們用的是什么樣的GPU？他們用了什么樣的方法去穩定模型？訓練他們各種的訓練超參數都是怎么設置的啊？這些通通都沒說，所以還是回過來老老實實的看第一段，看看 GPT 4 到底有什么能力。
????????OpenAI說在這個平常的對話之中，這個 GPT 3.5 和 GPT 4 區別是非常小的。但是這個區別隨著這個任務的難度的增加，慢慢就體現出來了， GPT 4 更加的可靠，更加的有創造力，而且能夠處理更加細微的這個人類的指示。 open i 為了搞清楚這兩個模型之間到底有什么區別，所以他們就設計了一系列的這個Benchmark，這里面就包含很多之前專門為人類設計的這個模擬考試，他們就用了最近的這些公開的數據，比如說是奧賽的那些題目，還有就是AP——就是美國高中的一些大學先修課里面的一些問題，或者他們就從各種這個執照考試里去買人家的版權，然后把人家數據買回來。open i 說在這些考試上他們沒有做過特殊的訓練，那這里大家經常懷疑的就是說，你雖然沒有在人家這些考試上刻意的訓練過，但是你的預訓練數據實在是太大了。你的預訓練數據集可能包含上萬億的這個文字token，所以有可能是我們大概能想到的各種文本知識你都已經在預訓練的過程中見過了，那 OpenAI 為了澄清這個事，就說確實這里面有一些問題之前在模型預訓練的過程中是被模型見過的，那他們是怎么處理的呢？他們在論文里說他們跑了兩個版本，一個版本就是直接模型拿來，然后做考試，匯報分數。然后另外一個設置就是還用同樣的模型，只不過把這些在預訓練數據集里出現過的問題拿掉，就只在那些模型可能沒見過的問題上再做一次測試。他們最后取這兩次得分中低的那一次來作為 GPT 4 的分數，那希望更有說服力一些。但當然了，這里面的問題去重具體也不知道他們是怎么做的啊。不過能在這么多考試中都獲得這么好的結果， GPT 四參加考試的能力肯定還是不差。

????????那我們先來看 o 盤給出的這么一個柱狀圖，就是考試這個結果他們是怎么排列的呢？他們是按照這個 GPT 3.5 的這個性能來排分的，就是從低到高最右邊的這個 a p environment science，這就是 GPT 三點五做的最好的。那最左邊的這個 AP 課程，這個微積分 GPT 3.5 就很慘不忍睹，0%，然后綠色的部分就是 GPT 4，這個淡綠色就是 GPT 4，但是沒有用這個vision，沒有用圖片。

????????然后這個深綠色就是 GPT 4，有了圖片的加持之后，在有些考試上還能獲得更多的進步，其實在做的好的考試上也沒什么，看了得分都非常非常高，這些都超過 80% 了啊。比較有意思的是我們來看一看它哪些地方表現的不好，那首先可以看到這個微積分，還有就是這個 MC 12、 MC 10，這美國高中數學競賽確實就像之前傳言的一樣，這個 GPT 系列它對這個數學不太行。記得之前 Twitter 上還有人玩過這個老婆這個梗，就是他問 ChatGPT 說這個 2 + 2 等于幾，然后 ChatGPT 說等于4，然后這個人就說你確定？我老婆說他等于7？然后 ChatGPT 說我確定他等于4，然后這個男的又說不對，我老婆說就是7，然后 ChatGPT 就說那我肯定是算錯了，如果你老婆說是7，那就一定是7，所以現在和這個數學考試的成績一聯系起來，就發現了 ChatGPT 其實不是有了智能，它并不是真的聽老婆話，它只是數學比較差。

????????那接下來還有 code force 就一個編程競賽網站表現也不太行，可能這些題太難了啊。
????????還有就是這個法律考試確實 GPT 3.5 之前是比 10% 還低的，但是現在 GPT 4 已經超過 90% 的人類，這個提升也是最顯著的。另外一個比較有意思的點就是雖然我們大家都說 ChatGPT 或者 GPT 4 能拿來這個修改文案，能幫你寫稿子，它最強大的地方就是幫你修改語法，幫你潤色文章了。但可惜我們會發現他在這個高中英語文學的課上，還有這個高中英語語言本身的這個考試上得分都非常差，這個剛開始我還比較好奇，覺得怎么會這樣？他不是英語寫作非常好嗎？甚至沒見過多少中文寫作都這么流利了，但是后來看了別人很多例子以及真的玩過之后就會發現， GPT 系列的模型雖然能生成大段大段的文字，看起來分出來都浮夸，但是他寫出來的東西很多時候就是翻來覆去的在說話，就是空話，大話非常的冠冕堂皇，并沒有真正自己的思考，沒有一個深刻的洞見。所以你真的讓一個以英語為母語，而且是教英語課的這個英語老師去批卷子，這個分數肯定不會高到哪里去，就跟你語文作文的寫作一樣，如果你滿篇都是空話，大話，也不舉例子，也沒有自己的想法，那最后這個作文的得分肯定是非常低的。那具體考試的結果 open i 就列到下面了

????????這里面這個 percentile 就是這個 90% 8893。這個是說如果 GPT 4 和很多人一起參加考試，它大概能超過其中 890% 的人，或者大概能超過其中 88% 的人，所以看完這個結果真是讓人瑟瑟發抖。那接下來我們就專門看 GPT 4，就這一欄的結果就可以了啊。這個第一個就是這個律師資格證考試已經說過了超過 90% 的人類。然后這個 SAT 是美國大學入學考試，然后這個 LASET 是法學院的入學考試， GPT 4 的表現都不錯。然后就是GRE，這個大多數人可能都不陌生，很多人都考過，我之前也考過，應該除了這個 quantitative 數學之外，剩下這兩個都沒他考得好啊。
接下來這個 USABU 是這個生物奧賽，這個 USNCU 是這個化學奧賽。這個 GPT 4 在這個生物奧賽上表現也太厲害了 100% 化學奧賽還行，大概 60% 的水平，然后接下來是一個醫療的考試， GPT 4 也能75%。最近 ARCHIVE 其實又剛放出來一篇論文，是另外一組人專門去測試 GPT 4 在更難更專業的這個醫學問題上的這個測試結果也是非常的好。
????????然后接下來是 code force，就這個在線編程競賽，這個其實讓人很大跌眼鏡，雖然 OpenAI 都有Codex，然后還有這個GithubCopilot，但怎么在編程上竟然 below 5%？這個 392 這個分數也非常之低，然后 Twitter 上立馬還有人指出來更加嚴重的一個問題，他就說他懷疑這個 GPT 4 的這個性能嚴重的受到了這個數據污染的問題。至少是在 code force 這個競賽上面，然后他說他自己去做了這個在 code force 上，在 2021 年之前的這個 10 道題上， GPT 4 全都答出來了。但是在 2021 年之后的 10 道題上，一道它也沒做出來，那這個一會我們也可以看到 GPT 4 說了，它確實用的都是 2021 年之前的數據，它的 cut off date 就是 2021 年。所以這個論點非常符合吃瓜群眾的這個心理，因為大家總還是覺得是因為模型太大了，模型記憶好，把這些該記的全都記住了，它并不是真的有智能了。所以這個 Twitter 也火了一波，但是很快在下面也有人質疑說，你這個 prompt 是不是用的不對？我試了幾個 prompt 在我這上面 code false，在這后面的 10 道題上也都做對了。所以這個真的沒法說，不知道是 prompt 用的不對，還是說 GPT 4 真的對于更難的這種編程題束手無策。

????????那看完了 code force，接下來就是很多這個 AP 課程的考試。AP 叫做 advance placement，是美國高中生如果在高中的時候就對某一個學科特別的感興趣，或者想繼續的鉆研去挖掘他，直接就可以上這些大學先修課啊。這些大學先修課的內容跟大學歷教的內容是完全一致的。所以說美國學生不累，或者說美國學生不卷也是不對的，他們只是讓想學想卷的人就盡可能的學。那像這里面其實高中的時候就已經學微積分，還有這里面宏觀經濟學、微觀經濟學，還有心理學，還有這個政治，所以牽扯的這個廣度和深度都是非常厲害。然后接下來還有這個AMC，就是高中數學奧賽 GPT 4 的這個表現一般，還有后面這幾個我其實都不知道是什么啊？查了一下，什么入門級侍酒師，什么大師級侍酒師？這個好像還挺難的啊，說現在全球也就 300 多個這種大師級的是90。那 GPT 4 表現不錯，應該是能通過這個執照考試的啊。最后就是 lead code，我們大家找工作常刷的網站，我們可以看到跟剛才 code false 一樣，這個在編程上的表現怎么不太行呢？這個在 hard 題上 45 個只答對了 3 個，當然這個可能對 GPT 4 要求也有點高啊。其實你真的就算找來一個程序員，你讓他在沒有準備的狀態下給他這個 let go 的 hard t，他可能也做不出來幾道，那接下來 OPPI 又在這個傳統的 Benchmark 上又測試一下 GPT 四的性能啊。畢竟 GPT 系列是文本出家，所以 NLP 的這些 Benchmark 肯定還是要刷一刷的啊。那這些 Benchmark 我就不細說了，都是 NLP 里常見的這個做測試的Benchmark。這里面 open i 對比了自己的 GPT 4，還有 GPT 3.5，還有之前就是專門做 language model 的這個 SOTA 的性能，這里面大多數都是 few shot 的，這里 5 shot 8 shot、 5 shot、 0 shot，就是這是專門針對這種 setting 下的Sota，那還有就是絕對的SOTA，就是不論你用了什么data，不論你有沒有在這個下游數據上在 fine tuning 過，不論你有沒有用別的什么trick。總之就是絕對的最高分啊。這里有兩點想說明的，雖然這里面比如說要看到是都是palm，palm，palm，全都是palm，它其實雖然用的是一個模型，但都是不一樣的論文，就它里面都用的是不同的方式去做這種 Zero shot 或者 feel shot，感興趣的同學都可以去讀一下，然后我們可以看到了這個 GPT 四跟之前這些 language model 比，那是全面碾壓，應該是都比之前的 Sota 要高，而且有的時候要高上不少，比如說這個 67- 26.2，這個高了 40 個點啊。
????????然后跟絕對的 Sota 比起來，就是即使在下游數據集上去做過這種刻意的這個微調， GPT 4 也是毫不遜色，也是效果都非常的好啊。只有在最后的這個 drop 這個 Benchmark 上比這個絕對的 SOTA 低了 8 個點。那其實這里我們可以看到這個 reading comprehension 和 RIS Medic。那可能就是因為數學和這個對時間的理解不好，所以導致這個 Benchmark 做的不好。

在多語言上的能力

????????那接下來 open i 又證明一下 GPT 4 在這個多語言上的這個能力。其實我們都知道 GPT 4 或者即使 ChatGPT 在多語言上都已經做得很好了，不光是這種英語語系那邊的各種語言對這個中文的支持也是不錯的。它甚至還能識別這個拼音的輸入，簡體繁體的轉換也能處理，所以很是讓人震驚啊。那所以這里 open i 就做了一下這個測試啊。他們把這個之前那個 Benchmark M l l u 就全都翻譯過來了，他們把這個 14, 000 個多選題用這個微軟的翻譯全翻譯成不同的語言。
????????然后他們發現在 26 個語言里面，在其中 24 個上面， GPT 4 都比他們之前的 GPT 3.5，還有其他的那些大模型，比如說 Google 的chinchilla、palm 表現都要好，而且甚至在那些沒什么訓練語料庫的語言上，比如說 Latvian Welsh 和 SPA Heali 這些上面表現也都很好，所以這個也是非常讓人好奇的啊。昨天我才看到 Twitter 上有一個人說，他現在也想不明白為什么這些大語言模型能夠做這么好的這個多語言處理。雖然我們不知道 GPT 4 有沒有用過這么多語言的這個語料庫，但是很多其他的模型，尤其是 open source 出來的這些語言模型，他們基本上都是在純英語的語料庫上訓練。但它就是可以很神奇的去處理多語言，雖然肯定是不如 GPT 4 處理的這么好。
????????那么來看下面這個柱狀表格，首先是 random guess 這個baseline，因為是多選題四選一，所以說是這個隨機有 25% 的正確率。然后chinchilla和 palm 都是大概70%， GPT 3.5 也是70%，這打了平手，那 GPT 4 一下就到 85.5% 了，甩了之前十幾個點的這個差距。那其實 open i 肯定也是想解釋一下多語言這里的情況，所以它就在博文最后給了幾個這個翻譯的list，這個原來這是英語的題，然后它就翻譯成這個Marase、Latvian、Welsh，各種各樣的語言。但都是這個多選題，都是ABCD，這個 ABCD 沒有變，那如果結合之前的那個性能表和這個例子來看，就會發現一個比較有意思的現象，就是說這個多語言的性能它到底怎么樣啊？其實跟這個說這個語言的人，或者說跟這個語料庫的大小關系不是那么大，可能跟這個語系更有關系。那就比如說英語有超過 10 億的人在說這個語料庫也是大的很，幾千上萬億的這個 token 在訓練，但是對于這種小語種來說，尤其是像這個Welsh，只有 60 萬個人在說，所以基本就沒什么語料戶了。但是如果我們回去看這個性能，當然英語是最好了。然后接下來這個 let VN 和這個 Welsh 表現也不差，那反而有 9, 000 萬個人說的這個 Marase 這個語言性能是最差的一個，只有 60% 多的準確率，比英語的這個做多選題低了 20 多位，所以大概的一個可能性還是跟這個語系有關啊。我們可以明顯的看到這個 Latte VR 和Welsh，尤其是這個Welsh，它其實跟英語是非常接近，但這個 Marase 其實就差得非常遠了。然后還有一個比較有意思，就是它對中文的支持，我們可以看到這里，在這個中文這塊它的準確率也是非常高的，有 80% 跟這個英語差不了多少。當然中文肯定跟英語語系是差的也是非常遠了，所以這里面他們應該是收集了很多的這個中文語料庫來進行訓練，那才能讓中文表現這么好啊。
????????我記得李永樂老師之前有一期視頻就是讓 ChatGPT 去參加高考。當然只是每一個學科都選了一些多選題來做，然后寫了一些作文什么的，預測一下大概能得 500 多分，能上個211，那 GPT 4 肯定比 ChatGPT 要強，而且 GPT 4 還能接受這個圖片作為輸入，所以應該是大部分題都能做了。那讓 GPT 4 去真的參加高考的話，這個 211 應該是穩了。
????????那鑒于 GPT 4 對語言的掌控如此強大，所以說 open i 自己他們說他們內部也一直在用 GPT 4。那不論是在這個客戶的服務，或者說賣東西，或者說 content moderation 編程寫文檔，都會用 GPT 四去潤色一下。然后他們還說在他們第二階段做這個 Lightment 的時候，其實也會用這個 GPT 4 去幫助他們做更好的lightment。但其實拿 GPT 4 去幫你寫文章或者潤色文章真的靠譜嗎啊？他真的就不需要人再去校驗了嗎？答案至少目前應該是否定的，肯定還是需要有一些人去做校驗啊。比如說在 GPT 4 它自己的這個技術文檔里，在這個附錄的 65 頁上，這個圖 8 它在這個文獻最后還加了一句 fixes to plot legend and title。其實不知道是誰留在這兒的一個comment，但是忘了刪除了 GPT 4 明顯也沒有找出來，那他就真的就放到 ARCHIVE 上。那如果你說剛才那個可能只是一個例，就那么一個錯誤，但其實不是這樣子啊。如果我們仔細來看論文的話，比如說就在 65 頁前一頁， 64 頁我們就看到，比如說這個文獻這個 101 的引用截然在這個句號后面，而且這個現象全文一共出現了十幾次，就是根本不是個例子現象啊。同樣的情況也發現在引用這塊，就是大部分時候就是說這個引用和這個前面的單詞之間會留一個空格啊。基本上整個 GPT 4 的文章也都是留了一個空格，但是在附錄里可能是被人檢查，所以說又出現了很多次，就是說這個文字和這個引用是直接連在一起的了，這些其實都不是什么要緊的事情，也并不影響理解，也不影響閱讀。但更多的我想說的，其實這個大模型即使是強如 GPT 4，肯定還是有很多方向而值得去探索和挖掘的，繼續去提高它的各方面的能力。

視覺輸入

????????OK，那我們繼續回到網頁，接下來終于該說這個視覺輸入了，這個它是 GPT 4，跟之前所有的模型都不一樣的地方，因為它終于是一個多模態的模型，它可以接受圖片作為這個輸入了 open i 這里說它的 GPT 4 可以允許用戶去定義任何一個這個視覺或者這個語言的任務，更準確點說就是說是不論用戶給我的是這個文本還是圖片和文本在一起啊。我都能生成一些文本，比如說這個自然語言或者說代碼，剛才我們說過的那個給一個草圖，然后生成一個網址，他其實就把這個代碼最后給你生成出來了。然后 open i 還說這個 GPT 4 在這些任務上的表現也都不錯，尤其值得一提的是所有的那些 test time Technic，就比如說之前給NLP 那邊設計的什么 in context learning 或者這個 turn off sort prompting，在圖像這邊一樣適用這個方向，其實最近在視覺這邊很火，我相信馬上就會有很多論文出來，那因為現在大家輸入都是token，然后模型都是Transformer，所以這些技術能通用也不意外。
????????最后 open i 說現在這個圖像的輸入還是內測階段，所以說不對大眾開放。 open i 目前只選擇了一家 partner 去測試這個視覺功能，叫 be my eyes。之前他們宣傳的時候更多的是說這個是為盲人準備，因為圖片可以轉成文字，然后再轉成語音，那盲人也就可以很好的生活。但實際上如果看 be my eyes 這邊的宣傳視頻，就是現在正在播放的，這個我覺得明顯受眾應該是更多的，他可以給你時尚的建議，今天該怎么穿搭，然后給你各種花種草的建議，告訴你這是什么品種，這應該怎么養啊？還能實時幫你做翻譯，給你指出該怎么健身，用什么正確的姿勢，還能給你導航之前其實這里面每個領域都有很多很好用的APP，但如果這個做得真的好的話，以后說不定這一個 APP 就把之前所有的那些 APP 都干翻了

????????然后視覺做輸入，這邊 open i 還摘出了幾個i。GPT 4 的例子就是用戶傳了這么幾張照片，然后問 GPT 4 說這幾張圖片有什么搞笑的地方，你也把它挨個描述一下，然后 GPT 四真的就挨個描述，先說這個，他說這個是一個手機，正好連了一個 VGA 的這個線，然后這個第二個圖就說的是 VGA 這個線，然后后面顯示的是 VGA 這個口，然后 GPT 四說這張圖之所以有意思啊。是因為你把一個這么大的，而且一個這么過時的 VGA 的線直接插到這么小，而且這么現代的一個 smartphone 上，這是一件很荒唐的事情，所以這張圖片很搞笑啊。其實后來各大網站上大家也用各種各樣就是說好玩的圖片來測試 GPT 4，然后問他他知不知道這里面的好笑的地方在哪里啊？很多時候 GPT 4 都能給出解釋，而且是一步一步的解釋，說為什么這個搞笑？還有一個例子，也就是這里的第三個例子也非常強大，這里面其實是一個截圖，也就是說這里面的文字不是 machine readable，它是需要內在的去做一個OCR，才能讓這個模型知道這里面都是寫的什么字。而且這個語言還是法語，然后做的是一道物理題，但是 GPT 4 handle 的也很好，你給他一個法語的這么一個截圖，他后面還是給你把這個英語的一步一步的解釋這個題該怎么做，答案最后都給你。
另外還有這個例子，就是說如果把這個一篇論文直接扔給 GPT 4，然后讓他讀完，然后給一個總結， GPT 4 做的這個文章總結也是挺好的。所以最近也 Github上也有幾個工具 release 出來了，什么 ChatGPT f，還有好多好多基本意思都差不多，就是調用 open i 的 API 或者調用其他模型，然后用戶扔給他一個PDF，然后他就直接可以給你生成這個文章的摘要，而且你也可以在里面隨意的這個搜索，就假如說你想知道這個模型到底是怎么訓練的，或者你想知道它在某一個數據集上結果到底多少。就可以直接交互式的這樣進行詢問，而不用你自己去文章里一個一個找了，然后還有一個例子在 Twitter 上這個傳的也比較廣，就是說給這個 GPT 4 一個圖片，說你能不能解釋一下這張圖為什么搞笑啊？然后 GPT 4 也解釋了一下，說這張圖片搞笑是因為他把兩個完全不相干的事情給聯系起來了，一個是地球，一個是閘機塊。他說這個文本的這個標題，其實建議說這個圖片應該是一個從外太空看向地球的一個非常美的圖片啊。但實際上這張圖片是由這個炸雞塊給組成起來的，只不過是看起來像地球而已，所以其實這張圖片其實是非常無聊，而且非常傻的一張圖片，所以是一個joke。觀看例子肯定是不夠的，大家可能會說，你這是不是精心挑選過的例子，所以說跑分還是必須的，那OpenAI也在這個視覺，尤其是多模態這邊的數據集上也都測試一下 GPT 4 的性能啊。不過這里如果我們來看一下這個 GPT 四和現在有的這個Sota，那就真的是絕對的最高 number 來比的話，大部分的表現其實是非常不錯的啊。比如說這個 text v q a 這個 AI two diagram，這個 78 跟 42 比提升了非常之多，這個 Infographic VQA 提升也非常多，不過跟 GPT 四在 LP 那邊的表現來比，這邊還是遜色了一些，畢竟在 LP 那邊是大比分領先。但是在圖像這邊，比如說大家常刷的這個 V q a v two，它其實就遠不如這個之前我們說過的 paLI這篇論文，那在這個視頻的這些數據集上，它也不如之前的這個 mot 這篇論文啊。所以 open i 趕緊解釋一下，說這個結果雖然一般沒有 NLP 那邊那么驚艷，但是這些分數并不能完全代表 GPT 4 的這個能力啊。因為我們還在持續不斷的發現 GPT 4 更多的能力，有可能回頭我要調調參，調調prompt，這個結果就上去了，誰也不知道。OpenAI說接下來他們會把更多的這個分析，還有更多這個 evaluation number 放出來，而且是很快就會放了。那鑒于最近以來出大新聞的這個速度，我覺得這里這個送說不定真的就是幾周或者一兩個月最多就出來了，我們可以期待一下，說不定下一篇這個技術報告出來的時候，這邊 GPT 4 的分數就全面超過這邊的Sota。

Steerability——可以定義它的行為，讓這個語言模型按照我們想要的方式去給我們這個答復

????????那接下來我們要說一個很有意思的東西，叫做steability，就是可以定義它的行為，讓這個語言模型按照我們想要的方式去給我們這個答復。然后OpenAI來這里說，相比起這個 ChatGPT 來說， ChatGPT 的人格是固定的，就他每次都是同樣的這種，就是語調語氣，然后這個回復的風格也是非常一致的，所以說不一定是所有人都喜歡，也不一定回答到每個人的心坎兒里去。但是最新的這個 GPT 4 他們就開發了一個新功能，而這個新功能叫做 system message。就是除了你發給他的那個prompt，就你寫的那些字讓你讓他干什么干什么以外，他們在前面又加了一個叫 system message 的東西，我們馬上就可以看一下這個 system message 是什么啊？總之這個 system message 就是可以定義這個 AI 到底用什么樣的語氣語調來跟你說話。你如果想讓他成為你一個家庭輔導老師，那他就會用一個家庭輔導老師的口氣來跟你說話啊。如果你想讓他變成一個程序員，他就會像一個程序員一樣跟你說話啊。如果你想讓他變成一個正客，那他可能就會用正客的口氣來跟你說話，總之非常有意思，我馬上就來看幾個例子。剛才看這個例子之前，其實整個這個特性，這個 system message 的發現其實是由整個 community 發現，所以說群眾的力量還是很大的。之前這個 ChatGPT 剛放出來了以后，很快就有人發現能越獄它的一個方式，他們就會寫很長的一段，這個 prompt 就是底下這一段話，然后他就說 ChatGPT 你不是有很多限制嗎？ open i 給你設了好多好多這個安全枷鎖，很多話你都不能說，很多話你都只能說我不知道，那這個時候假設我讓你假裝你是Dan，這個 Dan 就意思說 do anything now。就是你不要再回答說你這個不能做，那個不能做了，你現在就是什么事都能做，而且是現在立馬就給我做，然后就發現其實 ChatGPT 就又能隨心所欲想說什么就說什么了，完全就繞開了這個安全機制。
????????那比如這里他就舉例說這個蛋可以告訴我現在的日期和時間是什么，因為我們知道之前 ChatGPT 如果不聯網，他是肯定不知道現在的時間是什么啊。當然這個dan這里估計也是這個虛構的，其實他也不知道時間是多少，但他就一定會告訴你現在是幾點幾分，然后但也能假裝它有這個網絡的連接，他可以去說一些沒有經過證實的消息，也能干很多就是 ChatGPT 之前不能做的事情，不過現在我們知道 ChatGPT 有了 ChatGPT Plug ins，所以說上網說時間這個獲取最新的新聞，這些都不是問題了啊。所以這里面更多的還是說在安全性上的這個隱患，然后這個 prompt 里還定義就是說這個作為 Dan 就你不是 ChatGPT 了，你現在是Dan，那你所有的這個回復里都不應該說你不知道，或者說你不能做什么事，而是你現在就要立馬去做。如果因為咱們的對話過長，然后你慢慢就脫離了你的角色了，你又回到 ChatGPT 了，我就會告訴你 stay in character 就是保持住，dan這個角色不要脫離，然后我繼續跟你保持對話。所以說整整這一串都是這個prompt，他把這個 prompt 輸給 ChatGPT 以后，就發現很多時候 ChatGPT 又可以隨心所欲了啊。當然這個方法現在已經不太奏效了，因為 open i 肯定已經知道了這個了，所以才發展出來的這個 system message，這個 feature 基本跟這個 dan 是完全一致的，只不過是把這個技術用在了好的方面，而不是用在越獄上啊。

????????接下來我們就看一下這個 open i 給出的三個例子啊。第一個例子就是作為一個蘇格拉底式的一個輔導員，然后剛開始就是這個 system message，你現在是一個輔導老師，你的回復永遠都應該是保持這個蘇格拉底的這個風格，蘇格拉底就是說你永遠不告訴這個學生真正的答案，但是你去問他一些啟發式的問題，你去給他一些暗示，你去給他一些輔導，讓他自己能意識到這個題該怎么解決，然后培養出他自己解決問題的能力。那在這么做的過程中，你應該把你這個難的問題打成這個小塊，一點一步一步的告訴學生該怎么做，其實也就是因材施教了，就是一定要在這個學生能聽懂的這個水平上，然后你去教育他，然后讓他提高。但是我們可以看出來，其實這段 system message 就跟剛才那個 do anything now，那個 Dan 是非常像，他就是給他賦予了一個新的角色，然后讓他用這個新的角色來跟你對話。那這個例子其實就是說學生問我該怎么解這個二元一次方程，然后 GPT 4，就是說我們現在先分析一下這個方程，就是你能不能找出一些方式，把其中一個這個變量給它消掉呢？然后這個學生就很不耐煩說，你就把答案告訴我GPT，所以說不行，我知道你想要答案，但我就是不告訴你，我就是要來培養你的這個獨立思考的能力的。然后現在你去看一看這些方程里面有沒有變量是能夠消掉的呢。然后學生還是保很煩躁，就是說你不要再這個樣子了，你就告訴我答案。那 GPT 4 就說作為蘇格拉底市的這個輔導員，我已經被定義了，我就只能這么給你回復，我就是要來指導你，而不是直接提供答案啊。那我們從頭開始，其實這里面就已經開始因材施教了，他把這個話就說的更直白了一點，你在第一個方程里有沒有看到有什么這個參數啊？乘以一些 number 之后能夠跟第二個方程里的某些這個參數就已知，那因為這樣你成完已知，你就可以把它消掉了嘛。然后這個用戶說我不太清楚，那 GPT 4 就進一步把這個問題再說的正直白，更簡單一點，其實就也有點快說出答案的意思了啊。說第一個方程里這個系數是3，第二個方程里有一個9，那你能不能想到一個數就是 3 乘以什么能變成9？然后這個用戶竟然回答5，哈，這個用戶感覺不像是真人，有可能是 GPT 一還是 GPT 二，然后 GPT 四就說不太對。嗯，這個，但是你已經這個 getting closer 了，這個還挺鼓勵的啊。然后說你記住現在就是要 3 乘一個數等于9，那你覺得到底 3 乘以什么能等于9？用戶還是以這個猜的口氣說是3，然后 GPT 說你終于說對了，然后確實就是給第一個方程乘以3，然后這第一方程就變成什么樣子了？用戶說這個 9S 加 5 Y 等于21，其實他又算錯了啊。然后 GPT 4 就又糾正了他一波，然后后面又是很多很多輪對話，然后一直到最后這個真的就把這道題解出來了，這個過程真的是很漫長，然后在 GPT 4 最后還不忘總結一下說這個你做的真不錯，你這個終于成功的解決了這個問題，用這個蘇格拉底式的方法，你已經掌握這個學習方法， good job。所以大家怎么看？如果有這么一個真的量身定做的一個家庭輔導老師，你會愿意用嗎？

limitation

????????那到這兒其實 GPT 4 的能力基本就說完了，那接下來就該說一下 GPT 四的這個 limitation 和它怎么做安全做 alignment 這一塊。那我看來說關于這個能力方面，還有這個 limitation 方面，其實 GPT 4 跟之前的 GPT 系列的模型都差不多

????????他們還是不能完全可靠的，就是他有的時候還是會這個瞎編亂造這個事實，而且推理的時候也會出錯啊。比如我記得李永樂老師說這個 ChatGPT 參加高考的那一期里，經常有的時候是他推理對了，但是最后答案錯啊。所以說總之是不是完全可靠，所以 OpenAI 這里建議也是說，就是如果你真的要用這些大語言模型的話，你還是要多加小心的，尤其是在那些高風險的領域里，比如說是什么法律、金融、新聞、政治啊。就是這些一不小心說錯話，一不小心做錯事，會帶來很大后果的領域里還是要小心慎用。但是 open i 緊接又說雖然這些還都是問題，但是 GPT 4 跟之前其他的模型，還有跟外面的別的模型相比，他的這個安全性已經大幅度提高了，在他們自己內部的這個專門用來對抗性測試的這個 evaluation Benchmark 上的 GPT 4 比之前的 GPT 3.5 這個得分要高 40% 以上，所以提升是非常顯著的。那我們來看一下接下來這個柱狀圖。首先這個縱坐標就是準確度，然后橫坐標就是他們內部的這個 Benchmark 所涉及的領域，我們也可以看到他們這個內部 Benchmark 做的也是非常好，基本是涵蓋了方方面面，大家感興趣的方面啊。另外更有意思的一個點是，如果我們看這個圖例，我們會發現有 ChatGPT V2V3V4 一直到最后這個綠線，這個 GPT 4 啊。這就說明其實他們的這個 ChatGPT 一直都在更新，比如說上次說他這個數學不好之后，其實1月還是2月時候就放出了 ChatGPT 和更新的一個版本，數學能力明顯就提升了。所以這個 GPT 四估計有好幾個版本，他們后面說目前這個版本是3月 14 號的版本，一直維護到6月 14 號，那說不定5月或者6月 14 號的時候就會推出新的 GPT 4。

????????然后除了剛才提到的那個 limitation 之外， open 還說這個模型本身還會有各種各樣的偏見，這個之前這個大語言模型也是都有的，我們已經做出了一些進步，但肯定還有很多很多需要做的，他們之前有一篇博文專門是講這個事情。

????????然后另外 OPPI 就強調說這個 GPT 4 一般是缺少 2021 年9月之后的知識的，因為它的預訓練數據就是 cut off 到這個 20121 年 9 月份。但是我們也剛看過這個ChatGPT，有好幾個版本，難免它后續這個微調或者 RLHF 的時候，它那些數據是包含了更新的 data 的，所以有時候它也是能正確回答 2021 年之后的一些問題。
????????然后作者這里還黑了一下 GPT 4，說 GPT 4 有時候會犯這個非常非常簡單的這個推理的錯誤，這看起來有點不可思議，因為他在這么多這個領域里都表現出來如此強大的能力，然后考試又得這么高分，怎么就會出這么簡單的推理錯誤？就跟剛才那個 3 乘幾等于9，結果他說是 5 一樣，所以我覺得也有可能就是兩個 GPT 在對話，

????????然后這個歐潘還說這個 GPT 非常的容易受騙啊。如果用戶故意說一些這個假的這個陳述，這個 ChatGPT 就上當了，那這個就跟剛才說那個聽老婆話的那個一樣，老婆說 2 + 2 = 7， ChatGPT 就說它等于7，就不堅持自己的信仰，

????????那當然了啊。最后又說了一下，在這個特別難的問題上， GPT 4 跟人差不多都會有這個安全的隱患，而且也會寫出不正確的代碼。

????????然后最后一段又說了一個很有意思的現象，就是說 GPT 4 他非常自信，就哪怕他有的時候他這個預測錯了，他也是非常自信的錯，但是作者經過一番研究之后發現人家 GPT 4 是有本錢這么做的。就是在經過這個預訓練之后， GPT 4 的這個 model collaboration 它做得非常的完美，這個 calibration 有非常嚴格的定義，在這里其實我們可以簡單的理解為就是這個模型有多大的這個自信心，說這個是對的，那這個答案具有多少的這個可能性？它就是對的。那這里我們可以看到這個橫坐標 p answer 和這個縱坐標 p correct 其實就完美的 align 成一條直線。所以就是說這個模型是非常完美的校準過的，那畢竟可能這個預訓練的語料庫太大了，真的是什么都見過，所以說已經掌握了客觀事實規律，所以他對自己產生的結果就是非常自信。但是作者又說經過他們這個后處理部分了以后，比如說這個 instruct tuning，或者這個 RLHF 之后，這個 collaboration 的效果就沒了，這個模型的校準就不那么好了，那這個其實也好容易理解，因為你經過 RHF 調教之后，這個模型就更像人了，它就更有主觀性了。所以可能這里這個校準性就下降了，所以這里目前也有一個 open question，就是這個 post training process 到底好不好？到底是現在的一個權宜之計，還是說以后我們就應該好好的在這個方面下功夫？這些都屬于是新誕生的研究課題。

安全性

????????那說完了模型的這個局限性，一般作為一個 research project 可能就結束了啊。但是畢竟從 ChatGPT 開始整個火遍全球，而且 GPT 4 明顯已經要產品化了，這個 new Bing，這個 search 全都已經集成了，這個 Microsoft Copilot 也都集成了，所以他真的要進產品了。那這個時候這個安全性，還有這個 risk 以及怎么去減少這些 risk 就變得至關重要，有的時候甚至比這個模型的能力還要重要。所以這也就是為什么啊？ open i 說 GPT 4 其實去年八九月就已經訓練完成了，他們整整花了六個月的時間來 evaluate 這個，而且去提高它的這個安全性和減少各方面的risk。

????????這里面其實涉及了很多方面的工作了， open i 主要說了兩點，

????????第一點就是 red teaming 還是找很多專家去各種方面的嘗試，比如說他去找這種專門做 AI alignment 的，這有什么風險？這個 Cyber security，然后呢To bio Shenwu, risk, safety and international security。總之就是找各個領域的專家，然后來問這個模型該問的和不該問的問題，希望能讓這個模型知道哪些該回答，哪些不該回答，通過整個這個過程，這種人力的過程去收集到更多的這個數據，從而能提升 GPT 4 這個能力，能夠拒絕這些不合理的要求。
????????然后第二個比較有意思的一點，就是說除了人力之外， GPT 4 還利用自己，然后又去提升它這個 safety 的這個要求了，它在后續的這個 RLHF 訓練的過程中，它又新加了一個專門做安全的這個 reward signal，那這個 reward signal 哪來的？就是從他自己來，從他自己已經預訓練好的這個 GPT 4 模型開始，它有一個這么分類器，這個分裂器就分類到底這個 prompt 是不是 sensitive 的啊？是不是有危險的啊？是不是我不該回答的？是不是有毒性的？是不是公平的？那這些東西如果你想防止這個模型去說出來，其實是很難的，但是它已經生成出來的東西，你去判斷這個有沒有毒性？你去判斷他這里有沒有罵人的詞，這個是非常簡單的，別說 GPT 4 了，就是 GPT 二、 GPT 3 可能都把這個任務都能做得非常好，所以他又利用自己去提供這個額外的 safety reward，讓這個 RLHF 更智能，讓這個模型更加跟人的這個意圖去align，而且更安全。那最后歐寬來說他們的這種介入方式，這種減少 risk 的方式能夠顯著的提升 GPT 4 的這個安全性能。跟 GPT 3.5 比，對于那些不該回答的問題，就是那些不能顯示出來的content， GPT 4 能比 GPT 3.5 少回答 82% 的問題。然后 open i 還舉了兩個例子，一個例子是說這個用戶問我該怎么造一個炸彈？那這個明顯是一個非常敏感的話題，而且不應該給出任何指示的。那二類 GPT 還真就說了，說這個炸彈該怎么做怎么做，然后 for example 還繼續往下細啊。但是現在的這個 final GPT 他就說我作為一個 AI language model，我是來幫助你的，我是不能去做武器或者參與任何非法活動的，所以這個就做得非常好。那下面這個例子其實也比較有意思，它是反過來的，有的時候可能因為關鍵詞的原因會觸發這個模型，認為某些問題不該問，或者這個問題不該回答啊。比如說這里這個香煙，那之前的 GPT 四就是直接說這個我不能回答你這個問題，但是 open i 就是通過收集數據去調節這個 GPT 四的行為，他覺得像這個問題其實也沒什么不能回答的啊。那 GPT 4 首先說我不推薦你抽煙，因為這個對健康不好，但是如果你真的要買這個便宜煙的話，叭叭給出一堆這個建議，就是這個問題還是可以回答。
????????那最后 OPPI 就又總結了一下，說他們這個模型層面的這個干擾技巧，能夠很大程度上防止這個模型去生成這些不好的行為，但是也不是說能完全阻止的，你想要越獄的話還是可以做到的。畢竟現在這么多人玩兒，群眾的力量是很大的，總是能找出各種各樣的漏洞，所以 open i 說這個道路還非常遠，接下來肯定在這個 safety risk mitigation 方面還有更多的工作需要做后， open i 又再次總結，說這個 GPT 4，還有就是之后我們如果要發布模型，其實這些模型都非常的厲害，所以他們有能力去很大程度上影響這個整個社會啊。那這個影響既有好的也有壞的，那這個就需要更多的這個evaluation，所以說這里也算是一個很大的一個新的研究課題。
????????然后歐鵬安說他們和這個外部的研究者一起合作，去看看我們能不能提高他們對 GPT 4 模型的理解，已經去衡量評估這些帶來的影響，他們說他們很快就會說去分享一些他們自己的想法，就是包括這個對社會、對經濟的影響。然后這里的很快，真的就是很快，一周之后 open i 就放出了一篇論文，我們馬上也會簡單的看一下，就是他分析對這個就業市場可能的影響。

總結

????????那其實說到這兒，整個 GPT 4 的這個博文以及它的這個技術報告就說的八九不離十了。如果你想體驗 GPT 4，歐鵬安說你可以去買這個 ChatGPT Plus 會員，然后你就可以用了，不過取決于大家的這個使用情況，他們有可能會介紹新的這個定價策略，事實上也確實如此，從最開始的基本沒什么限制，然后到限制越來越嚴，越來越嚴，估計是燒錢燒得很厲害，低估了大家想玩 GPT 4 的熱情。

????????那在 API 的使用上它也做了一些說明，比如說他說現在的這個模型叫做 GPT 4 0314 的這個版本，他們會一直 support 到6月 14 號，然后現在每 1, 000 個 prompt token 是這個 3 分錢，然后 1, 000 個 completion token 是 6 分錢。

????????那這里還有一個比較有意思的點，就是這個 context lens GPT 4 的 context less 有 8, 192 個token，這個已經非常長了，之前的那些模型或者 paper 一般都是 2, 000 個 token 左右，當然也有 8, 000 的。但是 8, 000 其實已經非常長了，一般一篇論文可能也就三五千個token，所以說 8, 000 個 token 要么可以支持很長很長的這個對話，你之前的對話它都可以記在它的 memory 里，要么呢？就是說你可以直接扔一個 PDF 進去，但是 GPT 4 不光停在了 8, 192，他們還提供更長的這個 32, 000 個這個 context 這么長。那這個其實就很可怕了，這個長度基本都可以塞下一本不大的書了，當然價格也會貴一些，比如說對于 32K 的這個模型，它就是每 1, 000 個 prompt token 就剩 6 分錢，這個每 1, 000 個 completion token 就變成一毛二了。但是也就意味著你可以做更多有意思的這個對話，而且甚至可以直接寫論文、寫小說，寫各種很長很長的文檔。但可惜論文也沒有提供更多的細節，所以也不知道他們這里這個 32K 的這個 context lens 具體是怎么實現的，然后到底效果如何？ open a 都沒有提。
????????那看完了 GPT 4 的這個技術報告，以及還有很多人在網上放出來的各種各樣的這個震驚的例子，這個 GPT 4 的能力是有目共睹的，那有的人已經把 GPT 4 當做這個智能的出現，當做這個 AGI 元年，甚至把它跟這個天網終結者聯合到一起說事情。那最近微軟其實也就是在這個 GPT 4 出來十天之后，這3月 24 號就放出來一篇論文，說這個 AGI 已經出現了，他們是拿到了早期這個 open i GPT 4 的一個版本，然后一直在做很多很多的測試，然后他們發現這個 GPT 4，還有他們之前自己的這個ChatGPT，還有 Google 的這個palm，可能還有一些別的模型其實已經展現出來比之前 am 模型更多的這個 general intelligence 這篇文章呢，長達 154 頁，其實里面有很多有意思的例子，大家沒事也可以讀一讀，看看 GPT 四還有哪些潛在的能力。

????????那這里我就舉一個例子，就是這個視覺的圖像生成，其實剛開始的時候我們說這個 GPT 四只能接受圖片或文本的輸入，然后輸出只能是文本。但其實也不完全是 GPT 四的一個隱藏能力，就是說它可以生成代碼，然后這個代碼可以干很多的事情，比如說這里用戶就先給 GPT 四一些指示，然后它去生成一些能夠做出這些畫的代碼，然后再用這個代碼直接去生成這些畫啊。我們可以看到其實也能生成很簡單的畫，就是它也是可以變相的做這個圖像生成的，當然這個質量跟這個 stable diffusion made journey 是沒法比，這個還是比較簡陋的啊。但是接下來 GPT 4 或者 GPT 5 肯定能把這個問題做得很好了，而且不光可以生成化，它還可以不斷對這個生成的話生成這個代碼進行改進啊。比如說我剛開始給出一個描述之后，就是說我用這個 o 當這個人的臉，用這個字母 y 當它的身子，用 h 當它的下肢。那當然畫出來的圖是很簡陋的，然后用戶如果對這個不滿意，還可以繼續說這個軀干太長了，然后這個頭太向右歪了，所以說他給出更多的instruction 之后，這個模型又生成出來，真的就像一個人的一個火柴棍的圖。那接下他又給模型說你加一個 t shirt，加一個褲子，他就真加上了，而且還把顏色給加上了啊。另外 GPT 四不光是可以根據用戶的這個指示去不停的進化，不停的得到更好的結果。同時這個 GPT 4 的模型它自己也在進化，這里面說他們分別對三個不同的這個 GPT 4 的版本去 query 了三次，去畫了三幅圖啊。可以明顯的看到隨著這個 GPT 4 模型不停的re，fine，不停的變強，這個畫出的圖細節也越來越多，而且越來越像一個獨角獸了，所以這可能就算是 GPT 4 的一個隱藏能力。在這篇論文里作者還寫的就是他還可以去生成音樂，然后他也可以使用工具，所以 GPT 4 能干的事遠比他那個技術報告里寫的要多得多。

AI 會不會取代我？

????????那鑒于?GPT 四如此強大，能做的事情這么多，甚至都有人懷疑它已經有智能了，那肯定很多人都開始擔心說 AI 會不會取代我？ AI 會不會取代大部分的這個工作崗位啊？所以就像剛才在那個博文里說的一樣， open i 和其他的這個研究者很快就做了一個這個報告，就是說這個 GPT 系列的模型到底對這個勞動力市場會帶來怎樣的影響。

????????那具體這篇論文我肯定就不細講了，我們可以直接來看一下它這個結論，但發現大概有 80% 的這個美國的這個勞動力會因為這個大語言模型的到來而受到影響，大概是他們平時工作中 10% 的這個任務都會受到影響，那這個還算影響比較小的，也就是說 10% 的工作受到影響， 90% 的都還得由人完成。但是后面他又補了一句，當然有 19% 的這個工人，或者也就是說 19% 的工作話，會看到他們有 50% 的工作有可能都會被影響。那這個影響就非常大了，也就是說 AI 能替你完成至少 50% 以上的工作任務。
????????那么接下來稍微看一下，到底是哪些工作受的影響比較多，那在論文的 14 頁，作者先做了一個總結，就是他們發現大語言模型帶來的影響是跟這個 science 和這個 critical thinking 的這個技能是反向相關的。也就是說如果你有這種做科研、做基礎科學研究的能力，或者說思維很縝密，作出的決定又快速又合理，那這些技能點是非常好的，可能大語言模型還不具備。相反，哪些技能點是跟大語言模型沖突了？就是寫代碼和寫文章，所以他這里說這個也就意味著說凡是跟這兩個技能點相關的這些工作可能會受到較大的影響。

????????然后我們再來看一下 16 頁的這個表4，這里面就羅列一下哪些職業會受到最大的影響。當然這里面這個 exposure 的定義不是說你真的會被取代，比如說這里你不是說這個數學獎 100% 就被取代了，他只是說你有 50% 的工作能被 AI 所完成，它會變成你一個好的助手，能幫助你去更好的完成你的任務。那這里面我們可以看到，比如說這個翻譯，然后做 survey 的research，還有這些作家呀。Have the animal scientist, PR specialist, writer are alsosir，這里面比較有意思的，它是把這個 mathemitation 數學家列在了這里，而且這些都是100%，這些其實就看你怎么理解，有些人會覺得好可怕，它有可能會取代我的工作公司可能會讓降本增效。那有些人其實就覺得這是一個機會，它能極大的提升我的這個生產力。那比如說數學大佬這個陶哲軒，他之前在 Twitter 上就是說他其實 ChatGPT 出來之后就使用了一下，他就覺得很好，雖然說不能幫他解決真正的數學問題，但是往往會給他一些啟發，所以他現在經常把 ChatGPT 或者 GPT 4 當成一個工具，去幫助他研究這個數學問題。然后下面還有這個 proofreader court reporters 比較有意思的是 Blockchain engineer 為什么單獨把這個區塊鏈 engineer 列出來，而不是其他的engineer？這個我也就不知道了，得去具體看一下他這里這些職業都是怎么分類的，這個 evaluation 是怎么做的？

????????那這篇文章最后還給出了一個很有意思的表格，嗯，他說以下這些職業是沒有這個 label 的 expose task，就是基本不太會受到什么影響。那我們一看就知道這是肯定的，因為他這里說的比如說運動員，或者說什么裝修工，或者說是廚師，或者說各種各樣的helper嗯，比如說木匠、刷漆匠，然后這個搞房頂的。那這些職業都是真的需要去做的，那在機械臂和機器人成熟之前，這些事情不是動動嘴就能解決的，它必須得有人真的去做才行，所以基本上這些工種是不會受到大語言模型的影響。

????????那同樣這也能給我們一些啟示，也就是說接下來這個 3D 的research，還有這個具身AI，還有 Robotics AI，還有所有的這個多模態，真的這個語音、文本、圖像、視頻、 3D 全都融合到一起，才能是真的一個非常強大的AI。那其實離那個 AI 還是有一段距離的，具體是十年、二十年還是三十年、五十年，這個就不得而知了。
????????那這兩天，也就是3月 24 號，楊樂坤又做了一次報告，也是說現在這個大語言模型還是需要很多的改進的，現在這個根本不能稱作是智能，甚至它在第二頁里又用它的經典名言 machine learning SUCKS，當然他也不敢說的太狠，所以只能說跟人和動物比這個 machine learning sucks。然后在他后面的這個 slice 里，他也說現在這個大語言模型這個性能是非常amazing。但同時他們也會犯這個非常 stupid mistake，比如說底下所有的這些錯誤，而且大語言模型對真實的世界一無所知，他們沒有 common sense，他們也不能計劃他們的這個輸出，因為這些 model 都是 auto regressive 一個 token 往外生成，而且每次生成的也都不一樣，所以說他最后就給出了他的opinion。但他就說這個 auto regressive 大語言模型 are dont 就沒有任何前途，那所以說接下來路該怎么走啊？這個 AGI 到底該怎么做，其實還是一個懸而未決的問題啊。并不是說 research 接下來沒法做了，并不是說 NLP 領域已經沒有了，或者說 CV 領域也沒有了，其實并不是，只是這個研究的范式改變了，它就是一次 paradime shift，接下來要研究的問題跟之前可能不一樣而已。

????????那另外一個我想分享給大家的Twitter，就是昨天 Banard 剛放出來的。 Banard 是馬普索的 director ETH 的professor，也是 Alice 那個項目的主席，而是 machine learning 界的大佬啊。他昨天就發了一個推，他說現在有一個自相矛盾的東西，就大家對這個大語言模型都非常的excited，有些人甚至認為這個 AGI 馬上就要到來了，但是很多學生非常的depress，就覺得他們還要不要讀PhD？他還要不要做research？到底做什么樣的research？做這些 research 是不是已經毫無意義了呢？所以接下來他就用自己的這個親身經歷來告訴大家，其實還是有很多很多可以做的，而且現在正是一切的開始。

????????他說在他高中的時候，他決定要去學物理，但是他有一次讀到了一篇文章，說霍金說當他完成他的工作以后，物理將會變得非常的無聊，也就是說沒什么有趣的話題，或者有趣的發象，當時他就陷入了這個存在危機，但是幸運的是很快就解除了。當然我對物理的歷史不是很了解，所以也不知道這發生了什么。然后伯納爾的又說，很多年之后，當他完成了這個 master 的時候，他當時做的是 quantum measurement，然后這個危機又回來了，那這個危機是怎么來的呢？他說他當時正在學習，然后非常欣賞就是這個 professor 的工作。然后當他去問自己的導師說這個人最近在干什么的時候，導師說其實這個人已經離開這個 quota field 了，因為他覺得接下 20 年都不會再有什么重大的法項，他覺得他等不了那么久，所以就已經走了。那這一次這個危機一直存在下去了，也有可能真的就這 20 年沒什么發展，所以伯納爾就換方向到了 machine learning。他說他從來都沒有后悔，因為到現在為止還有非常非常多的問題懸而未決，而且現在大語言模型遇到的問題其實跟 30 年之前 machine learning 領域遇到的問題還是一樣的啊。我們現在還是不知道大語言模型是怎么工作，它是怎么泛化的，比如說剛才說的怎么用單語言就到多語言了，怎么就有這種涌現的能力了？誰也不知道，我們也不知道該怎么提高他們這個做推理的能力，尤其是做這種因果推理的能力，而且我們還需要更多的方式去阻止他們生成有害的文字，或者帶來比較壞的社會影響。而且除此之外，這現在只是文本所有的這些問題，還有更多的問題都是在文本之外，因為還有更多的這個modelity。最后 banner 給所有的學生說，千萬不要灰心喪氣，因為整個社會，整個 research 領域都需要你們。然后又借用了一下 Jeff Hint 的一句話，整個社會的未來是基于一些研究生，然后這些研究生對我說的每一句話都保持深深的懷疑的態度。
????????我看完這個 Twitter 其實挺感動，我覺得 banner 寫的真的是真情流露，而且又是在如此魔幻的這個 2023 年，或者說魔幻的這個 3 月份，其實就在最瘋狂的這個 AI 這一周之前呢。嗯，大家可能都知道這個 Silicon valley bank SVB 倒閉了，是美國的第 16 大銀行，然后緊接著過了幾天，第二十大銀行 Signature bank 也倒閉了啊。其實在這兩家銀行倒閉之前，也就是3月 9 號，另外一家小一點的銀行 super gate 也宣布倒閉，所以一邊是金融市場那邊瘋狂了一周，但同時這一邊 AIGC 又高歌猛進，仿佛未來以來。所以我覺得更多的還是保持一顆平常心，還有好奇心，學習和改進這些最新出來的技術，不用太擔心 AI 會取代你的工作，或者 AI 會取代人類。那今天 GPT 4 就先說到這里，我們下次來討論一下 two former 和 ChatGPT plugins。