ChatGPT 制造商 OpenAI 今早宣布，已開始訓練其新的“前沿模型”，并成立了一個新的安全委員會，由現任董事會成員 Bret Taylor（OpenAI 董事會主席兼客戶服務初創公司 Sierra AI 聯合創始人、前谷歌地圖負責人和前 Facebook 首席技術官）、Adam D’Angelo（Quora和 AI 模型聚合應用程序 Poe 的首席執行官）、Nicole Seligman（索尼公司前執行副總裁兼全球總法律顧問）和 Sam Altman（現任 OpenAI 首席執行官兼聯合創始人之一）領導。

正如 OpenAI 在公司博客文章中所寫：

“ OpenAI 最近開始訓練其下一個前沿模型，我們預計最終的系統將使我們在 AGI 的道路上更上一層樓。雖然我們很自豪能夠構建和發布在能力和安全性方面均處于行業領先地位的模型，但我們歡迎在這個重要時刻進行激烈的辯論。 ”

90 天計時器現在開始

值得注意的是，該公司概述了新委員會在指導新前沿 AI 模型開發中將發揮的作用，并指出：

“安全與保障委員會的首要任務是評估并進一步制定未來 90 天內 OpenAI 的 流程和保障措施 。90 天結束后，安全與保障委員會將與全體董事會分享他們的建議。在全體董事會審查后，OpenAI 將以符合安全與保障的方式公開分享已采納建議的最新消息。 ”

因此，可以合理地得出結論：無論新的前沿模型是什么（無論稱為 GPT-5 還是其他名稱），它至少在90 天內都不會發布，以便為新的安全委員會提供必要的時間來“評估和進一步開發 OpenAI 的流程和保障措施”，并向“全體董事會”發布建議。

這意味著 OpenAI 董事會應不遲于 2024 年 8 月 26 日收到新的安全委員會的建議。

為什么是 90 天，而不是更長、更短或其他時間？OpenAI 并沒有具體說明，但該指標是商業中評估和提供流程反饋的常用指標，似乎與其他指標一樣好——不太短，也不太長。

新的安全委員會并不獨立

此消息立即招致批評，一些人指出，新委員會完全由 OpenAI“自己的高管”組成，這意味著對該公司安全措施的評估將不是獨立的。

OpenAI 剛剛成立了一個由其高管和 Altman 本人組成的監督委員會。這是技術自我監管的一種久經考驗的方法，但實際上對監督幾乎沒有任何作用。

? — Parmy Olson (@parmy) 2024 年 5 月 28 日

OpenAI 董事會此前就曾引發爭議，其中許多成員目前都在新成立的安全與保障委員會任職。

2023 年 11 月 17 日，即ChatGPT 一周年紀念日的前五天，OpenAI 非營利控股公司的舊董事會解雇了阿爾特曼的首席執行官職務并解除了公司所有職務，理由是他“并非始終坦誠相待”，結果遭到了員工的堅決反抗和包括大支持者微軟在內的 OpenAI 投資者的強烈反對。

2024 年 11 月 21 日，奧爾特曼最終恢復了 OpenAI 首席執行官一職，董事會成員也由泰勒、拉里·薩默斯和亞當·德安杰洛接任，微軟也以無投票權觀察員的身份加入。當時，董事會因完全由男性主導而受到批評。

今年3 月 8 日，其他成員 Sue Desmond-Hellmann（比爾和梅琳達·蓋茨基金會前首席執行官）、Fidji Simo（Instacart 首席執行官兼董事長）、Seligman 和 Altman 也被任命為新董事會成員。

OpenAI（以及人工智能行業）的艱難時期

OpenAI 本月早些時候發布了其最新的 AI 模型GPT-4o，自那時起，其公關形勢就一直不太好。

盡管新模型是 OpenAI 同類模型中的第一個（也可能是世界上第一個），從一開始就對多模態輸入和輸出進行訓練，而不是像之前的 GPT-4 那樣將幾個經過文本和媒體訓練的模型串聯起來，但該公司還是受到了演員斯嘉麗·約翰遜的批評，她指責 OpenAI 與她接洽，希望她為其新助手配音，并展示了一個她和其他人聽起來像她的聲音（具體來說是科幻電影《她》中的 AI 助手角色）。OpenAI反駁說，它是單獨委托配音的，從來沒有打算或指示配音演員模仿約翰遜。

OpenAI 首席科學家兼聯合創始人 Ilya Sutskever與其超級協同團隊的聯席負責人一起辭職，該團隊致力于防范超級智能，后者在離職前批評 OpenAI優先考慮“閃亮的產品”而不是安全性。整個超級協同團隊被解散。

此外，OpenAI 還因對離職員工制定了嚴格的非貶損性離職協議，并在違反該協議和其他條款的情況下，對股權進行追回規定而受到批評，但該公司此后表示，不會強制員工遵守該協議（我想補充一點，從我在施樂公司和自動駕駛初創公司 Argo AI 從事技術工作的經歷來看，這種情況實際上并不罕見）。

然而，該公司還成功簽下了主流媒體的新合作伙伴，以便在 ChatGPT 中提供訓練數據和權威新聞，并且音樂家和電影制作人對其 Sora 視頻生成模型產生了興趣——據報道，好萊塢希望利用人工智能來簡化電影和電視制作并降低成本。

與此同時，競爭對手谷歌因其在搜索中的人工智能概述答案而受到批評，這表明普通用戶對整個人工智能領域產生了更廣泛的反對。

我們將拭目以待，OpenAI 的新安全委員會是否能夠在其計劃推出之前安撫或至少緩解一些批評者，或許更重要的是，監管機構和潛在的商業伙伴。