每經(jīng)編輯 杜宇

當(dāng)?shù)貢r間周二（5月28日），OpenAI發(fā)布公告稱董事會成立一個負(fù)責(zé)把控AI開發(fā)方向的安全顧問委員會。

圖片來源：OpenAI

OpenAI成立新的安全顧問委員會 成員全是自己人

OpenAI周二宣布成立一個新的安全顧問委員會，負(fù)責(zé)監(jiān)督與公司項目和運(yùn)營相關(guān)的“關(guān)鍵”安全和安保決策。而值得注意的是，進(jìn)入該安全顧問委員會的成員全部為該公司內(nèi)部人員，包括董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman和Sam Altman（首席執(zhí)行官），外部人員一個也沒有。該委員會將負(fù)責(zé)向全體董事會就OpenAI項目和運(yùn)營的關(guān)鍵安全和安全決策提出建議。

安全與安全委員會的首要任務(wù)將是在未來90天內(nèi)評估并進(jìn)一步發(fā)展OpenAI的流程和保障措施。90天結(jié)束時，安全與安全委員會將與全體董事會分享他們的建議。在全體董事會審查之后，OpenAI將以符合安全和安全的方式，公開分享有關(guān)采納建議的更新。

OpenAI董事會表示，OpenAI的技術(shù)與政策專家Aleksander Madry（準(zhǔn)備狀況負(fù)責(zé)人）、Lilian Weng（安全系統(tǒng)負(fù)責(zé)人）、John Schulman（對齊科學(xué)負(fù)責(zé)人）、Matt Knight（安全負(fù)責(zé)人）以及Jakub Pachocki（首席科學(xué)家）也將加入該委員會。

此外，OpenAI將保留并咨詢其他安全、安全和技術(shù)專家以支持這項工作，包括前網(wǎng)絡(luò)安全官員Rob Joyce，他為OpenAI提供安全方面的咨詢，以及John Carlin。

過去幾個月，OpenAI的技術(shù)團(tuán)隊中有多名安全方面的高層人員離職，這些前員工中有些人對OpenAI在AI安全方面的優(yōu)先級下降表示擔(dān)憂。

曾在OpenAI擔(dān)任團(tuán)隊治理工作的Daniel Kokotajlo在4月辭職，因為他對OpenAI在發(fā)布越來越強(qiáng)大的AI時“負(fù)責(zé)任的行為”失去了信心，他在個人博客上寫道。此外，OpenAI的聯(lián)合創(chuàng)始人兼前首席科學(xué)家Ilya Sutskever在與Altman及其盟友的長期斗爭后，于5月離職，據(jù)報道部分原因是Altman急于推出AI驅(qū)動的產(chǎn)品而犧牲了安全性能。

最近，前DeepMind研究員Jan Leike此前在OpenAI負(fù)責(zé)開發(fā)ChatGPT及其前身InstructGPT的過程中，也辭去了安全研究員職務(wù)，他在一系列X平臺的帖子中表示，他認(rèn)為OpenAI“未走在解決AI安全和安保問題的正確軌道上”。同時，AI政策研究員Gretchen Krueger上周離開OpenAI，她也同意Leike的觀點，呼吁公司提高問責(zé)制和透明度，并“更加謹(jǐn)慎地使用自己的技術(shù)”。

媒體報道，除了Sutskever、Kokotajlo、Leike和Krueger，自去年年底以來，至少有五名OpenAI最重視安全的員工要么辭職，要么被迫離開，包括前OpenAI董事會成員Helen Toner和Tasha McCauley。兩人日前在媒體撰文稱，在Altman的領(lǐng)導(dǎo)下，他們相信OpenAI無法實現(xiàn)對自身追究責(zé)任。

圖片來源：視覺中國-VCG31N2008743681

OpenAI宣布已啟動下一代前沿模型訓(xùn)練 AGI愿景變得更加務(wù)實

值得注意的是，還有一條重磅消息：OpenAI在公告中表示，最近開始訓(xùn)練其下一代前沿模型，以期超越目前的GPT-4大模型。我們預(yù)計這些系統(tǒng)將使我們在通往人工通用智能（AGI）的道路上達(dá)到更高的能力水平。雖然我們自豪地構(gòu)建并發(fā)布了在能力和安全性方面都處于行業(yè)領(lǐng)先地位的模型，但我們在這個重要時刻歡迎一場激烈的辯論。

作為背景，OpenAI在2023年3月發(fā)布GPT-4。單單憑借總裁布洛克曼畫在筆記本上的草圖，GPT-4就能構(gòu)建出一個真實的網(wǎng)站。相信有不少股民，也是從看到這一幕后才開始相信“AI或許真的能改變些什么”。

圖片來源：OpenAI

自那以后，OpenAI圍繞著GPT-4逐步推出一系列文字、圖片、音頻和視頻生成應(yīng)用。就在兩周前，公司剛剛發(fā)布了最新版本的GPT-4o。通過顯著提高模型的交互速率，實現(xiàn)了像真人對話一樣的“實時互動”。歸根結(jié)底，各方面都稍強(qiáng)一些的GPT-4o依然沒有跳脫出GPT-4的能力范疇。

正因如此，外界對于“GPT-5”的期待一直頗高。不過根據(jù)OpenAI最新的表述，下一代大模型恐怕要到明年才能與公眾見面。AI模型通常需要數(shù)月、乃至幾年時間來訓(xùn)練，而在面向公眾發(fā)布前，開發(fā)團(tuán)隊還需要進(jìn)行數(shù)月的微調(diào)。

隨著OpenAI構(gòu)建的AI越來越接近人類智慧的水平，公司在通用人工智能方面的表述也變得更加謹(jǐn)慎。

OpenAI全球事務(wù)副總裁Anna Makanju表示，OpenAI的使命是構(gòu)建可以做到“當(dāng)前人類認(rèn)知水平”任務(wù)的通用智能。

早些年Sam Altman曾說過，OpenAI的最終目標(biāo)是構(gòu)建比人類更加先進(jìn)的“超級智能”。他還曾表示，自己有一半的時間是在構(gòu)想如何打造“超級人工智能”。

每日經(jīng)濟(jì)新聞綜合公開資料

封面圖片來源：視覺中國-VCG31N2008743681