圖片來源：視覺中國

作者丨葉蓁??編輯丨康曉

出品丨深網·騰訊新聞小滿工作室

在山姆·奧特曼（Sam Altman）被OpenAI前董事會突然罷免之前，數位研究人員向董事會發送了一封信，警告稱他們發現了一種能夠威脅到人類的強大人工智能。

據外媒報道，知情人士透露，OpenAI首席技術官米拉·穆拉蒂（Mira Murati）周三向員工透露，關于“Q*”取得人工智能技術突破的信，是促成前董事會采取行動罷免奧特曼的原因。

奧特曼被解雇之前，曾在亞太經合組織CEO峰會上透露，該公司最近取得的一項技術進步，能夠“推開無知的面紗，推進發現的前沿。”?

這是由OpenAI首席科學家伊爾亞·蘇茨克維（Ilya Sutskever）牽頭完成的技術突破，研究人員雅庫布·帕喬基（Jakub Pachocki）和西蒙·西多爾（Szymon Sidor）根據蘇茨克維的突破性技術，搭建出一個名為“Q*”（發音為Q-Star）的模型。（注：上周末奧特曼被突然罷免之后，帕喬基和西多爾隨即宣布辭職）

這款模型的開發速度驚動了一些專注于人工智能安全的研究人員。這個蘇茨克維7月份組建的安全團隊，致力于限制比人類聰明得多的人工智能系統的威脅，他們擔心該公司沒有適當的保護措施來商業化這種先進的人工智能模型。

有評論說，IIya Sutskever的孤立無援，山姆·奧特曼的成功歸來，是科學家的悲歌，理性最后輸給了資本。

遙遠未來，如果有一天，AI無所不能，山姆·奧特曼罷免事件會成為一個標志性節點。那時人們會紀念誰？山姆·奧特曼還是科學家Ilya Sutskever？不同的人有不同的答案，判斷標準和價值觀的分裂，早已涇渭分明。

01

新董事會組建：內斗雙方的妥協

三天換三個CEO的OpenAI的宮斗大戲落下帷幕。23日下午，OpenAI在推特上官宣創始人山姆·奧特曼（Sam Altman）將回歸重新擔任CEO。山姆·奧特曼第一時間轉發了帖子，并配上了愛心和敬禮的表情。?

這場內斗幾經反轉，山姆·奧特曼陣營獲得了最后的勝利。山姆·奧特曼陣營包括微軟CEO、OpenAI 幾乎所有高管和員工、背后投資人以及硅谷創投圈人士。

OpenAI首席科學家IIya Sutskever的董事會陣營在這場宮斗大戲中落敗了。董事會陣營包括四位董事會成員，IIya Sutskever與董事會的兩位成員Helen Toner、Tasha McCauley出局。

OpenAI組成了新的三人董事會，名單堪稱豪華：主席Bret Taylor，是前 Salesforce高管，在馬斯克收購Twitter時曾擔任Twitter董事會主席；Larry Summers，經濟學家、曾任財政部長和哈佛大學校長；Adam D’Angelo保留席位。

消息稱任職Quora CEO的Adam D’Angelo是發起此次政變的核心推手，他留在董事會某種程度上意味著奧特曼方面也做出了讓步。

奧特曼并未回歸董事會，表面從制度上看，未來董事會對他會有更大的制衡能力，可以繼續發起對他的審查。但問題在于，如果董事會主要成員和奧特曼保持一致行動呢？

有消息稱，未來董事會可能擴充到九人，微軟有望拿到更多權益。

笙歌歸院落，燈火下樓臺。OpenAI罷免CEO引發的輿論浪潮，在資本力量的一路高歌猛進下逐漸歸于沉寂。

而這次主導罷免山姆·奧特曼的OpenAI的首席科學家Ilya Sutskever，卻成為一個孤獨的存在。

工資、股票、成就感相關的現實利益遠高過理想，700多個員工，幾乎沒有人支持科學家。

02

“皆大歡喜”的回歸

AI時代的宮斗戲可謂風馳電掣。

當年喬布斯被迫離開蘋果后，重新歸來后已經是12年后，而山姆·奧特曼的歸來僅僅用了5天時間。過往互聯網的時間尺度是以“狗年”來計算的，互聯網人的一年相當于普通人的7年。當ChatGPT定義未來后，連公司的宮斗節奏也顯示出了光速。

山姆·奧特曼發表推文：“在新董事會和Satya（微軟CEO）的支持下，我期待著重返OpenAI，并繼續維系和微軟的緊密合作關系。”

這次罷免山姆·奧特曼的首席科學家Ilya Sutskever也轉發了雷格·布洛克曼的推文。臨時CEO希爾 Emmett Shear表示，經過了72小時的工作，看到現在這樣的成果很高興。

宮斗大戲此前已經經歷三次大反轉。

OpenAI美國時間11月17日突發聲明，宣布公司首席執行官山姆·奧特曼將被解雇，公司現首席技術官米拉·穆拉（Mira Murati ）蒂被任命為臨時首席執行官。山姆·奧特曼被罷免震驚了中美科技圈。?

OpenAI首席科學家IIya Sutskever主導了此次罷免；六位董事會成員中的四位，在奧特曼和董事長雷格·布洛克曼不在場的情況下，四票通過做出了決定；奧特曼被罷免的主要原因，是因為種種行為違背了OpenAI“非營利性組織”的信仰。

值得注意的是，三位獨立董事，德安吉洛是Quora首席執行官，麥考利和托納是喬治敦大學安全與新興技術中心的戰略主管，他們都與有效利他主義運動（Effective Altruism，簡稱EA）有關。而該組織的最大價值主張便是把財富利潤分配給更多需要錢的貧困人口。

第一次反轉在19日，山姆·奧特曼奧特曼正談判重返OpenAI擔任首席執行官。作為交易的一部分內容，OpenAI的非營利董事會董事可能會辭職。

雖然不占有董事會席位，但微軟在OpenAI的“宮斗”戲中扮演著最重要的角色。微軟 CEO 納德拉是在 OpenAI 高管、投資人和董事會之間談判斡旋的核心人物，并一直親自協助臨時 CEO Mira Murati 討論山姆·奧特曼回歸的事宜。

在微軟CEO 薩提亞·納德拉的斡旋下，山姆·奧特曼也以訪客身份回回到了 OpenAI 舊金山總部。他在 X 上表示，“這是我第一次也是最后一次佩戴訪客牌。”??????

第二次反轉很快到來，Ilya Sutskever 對員工表示，盡管 OpenAI 高管試圖讓山姆·奧特曼回歸，但他不會再擔任公司首席執行官一職，視頻流媒體網站 Twitch 聯合創始人 Emmett Shear 將接任臨時首席執行官。

20日下午四點，微軟首席執行官納德拉宣布，OpenAI創始人山姆·奧特曼和Brockman將加入微軟，領導一個新的高級AI研究團隊。

然而，第三次反轉很快到來，僅僅一天之后，山姆·奧特曼就宣布了回歸。

OpenAI目前出現的混亂局面，跟該公司錯綜復雜的治理結構相關。這種結構旨在使OpenAI能夠籌集數百甚至數千億美元，以成功完成建設通用人工智能(AGI)的任務，同時防止資本的力量，特別是一個科技巨頭控制通用人工智能。奧特曼本人在很大程度上負責這種獨特的治理結構設計。

03

倫理擋不住科技的車輪

爭議和非共識把科學家和管理者置于兩端。而這次OpenAI罷免CEO的事件，更像是一個蹺蹺板，一端是孤單的首席科學家，而另一端是山姆·奧特曼和OpenAI的700個員工和投資人等，力量對比之懸殊，但科學家為什么選擇了孤注一擲？

Ilya Sutskever和獨立董事對抗五大力量。第一股力量是第一大金主的微軟，第二股力量是投資機構；第三股力量是在OpenAI生態下的公司們；第四股力量是山姆·奧特曼；第五股力量是OpenAI的700號員工。

這種對抗使得資本的力量來襲時，Ilya Sutskever即刻就呈現出了認輸的狀態，幾乎毫無對抗的能力。當然也有一種說法是硅谷科學家是懂政治的，但是一個懂政治的人怎么可能沒有后手，那他為什么要放手一搏？

Ilya Sutskever也是OpenAI的創始成員之一。他是人工智能和深度學習領域的頂尖專家，是有著“人工智能教父”之稱的Geoffrey Hinton的學生。

和更信奉硅谷“有效加速主義”的奧特曼相比，Ilya Sutskever 更強調安全和AI的價值觀，在最底層與人對齊。

有一種可能是：Ilya Sutskever認為OpenAI已經實現了AGI。

在AI研究狂飆突進的這幾年，有意思的是，有名的科學家與科技公司巨頭們，分成了截然對立的兩個陣營，爭論不休。老生常談的最近一場爭論是以霍金和埃隆·馬斯克為代表的悲觀陣營，認為人工智能有潛在的危險，甚至可能毀滅人類。

這場爭論與200年間的其他場次略顯不同，因為人們沒有料到，本應被稱為是“瘋狂科學家”的人，竟然站在了悲觀者的立場上，而谷歌等科技巨頭在這種悲觀聲浪中，相繼出臺了自己的AI不作惡原則。

年內早些時候，埃隆·馬斯克多次在社交媒體上表達了自己對OpenAI非常規結構及其對整個AI行業影響的擔憂。

“馬斯克講過他的很多擔憂，我們要看今天學界最擔心什么，一方面是人類文明被機器文明取代了，這是我們狹隘的一部分，我們早晚會接受這個事實，就像我們的孩子比我們強一樣的，這是人類的一個延續，”百川智能創始人王小川曾告訴《深網》。

但在王小川看來，“有了ChatGPT之后，可以把它當做人類文明的一部分，要擁有一種大我的想法，也許有一天人類從肉身里面已經消亡了，但機器文明很發達，那也是人類文明的一個延續，我不覺得是取代這樣一個概念，而是我們自然的一個進化。”

讓王小川更擔憂的是：“我更擔心的是未來巨頭因為用不好機器，使得機器帶來了文明的毀滅，這是我們需要擔心的事情，就像核彈毀滅了世界一樣的，大家可能最終聚焦在沒有控制它，之后不僅是人的滅亡，也是人類文明的滅亡。”????

伴隨著微軟和山姆·奧特曼的歸來，留在科學家Ilya Sutskever面前的現實也非常骨感。

在這場“OpenAI政變”事件中，微軟公司獲得了它最想要的結果，不僅保住了其對OpenAI約130億美元的投資，還介入了公司的管理改革，有望在人工智能相關項目獲得更多的話語權。

對此，一些科技行業的高管越來越擔心，人工智能的開發集中在少數公司手中，這可能會讓他們對這項快速發展的技術擁有過多的控制權。

美國房地產大亨Frank McCourt表示，AI可能會給科技巨頭帶來太多的力量，用戶已經失去了對數據的控制，科技巨頭正在利用這些數據來賺取利潤。

McCourt認為，大型科技公司和社交媒體巨頭正在對我們的社會造成深遠的破壞，而人工智能可能會讓情況變得更糟。

而此次政變失敗后，科學家Ilya Sutskever正在失去對OpenAI未來方向制衡的力量。

《未來預言機》評論稱，其他人想要一個巨型印鈔機，一個人工智能領域的霸主，而Ilya Sutskever想要一個能像父母照顧嬰兒一般來照顧人類的人工智能。

知名科幻作家王晉康曾提到，“現在最大的擔憂是，既然人工智能已經在諸多領域碾壓了人類，那么它將來會不會在科學發現上碾壓人類？會不會在社會意義上也碾壓人類？我曾經提過機器大媽媽的說法，就是人類在一個機器大媽媽的溺愛下，過著生不如死的生活。”

科技和倫理的矛盾從來沒有像現在這樣尖銳。但是，正如一位外國科學家所說，在社會發展中，科學技術的車輪是不可阻擋的，倫理道德只能在車前撒一些四腳釘。科學技術將來肯定是要戰勝倫理的，即便可以暫時阻擋一時，但是長遠來說是阻擋不住的。

免責聲明：本文來自騰訊新聞客戶端創作者