每經(jīng)編輯 杜宇    每經(jīng)實習編輯 宋欣悅    

近日，在斯坦福大學“以人為本”人工智能研究院（簡稱HAI）五周年慶典上，馬克·安德森（Marc Andreessen）與HAI研究所所長“AI教母”李飛飛展開了一場深入的爐邊對話，探討了人工智能的未來發(fā)展、創(chuàng)新生態(tài)系統(tǒng)的構建，以及開源在技術進步中的重要性。

馬克·安德森是第一代瀏覽器的締造者。1993年，安德森受到硅谷著名風險投資家吉姆·克拉克的邀請，合作開發(fā)互聯(lián)網(wǎng)瀏覽器。二人合伙成立了Mosaic通訊公司，后更名為網(wǎng)景通訊公司。很快，安德森帶領他的團隊成功開發(fā)出新版本的osaic瀏覽器。

圖片來源：截圖于Youtube

核心內(nèi)容

1、關于開源受限的后果

如果開源被禁止或受到某種程度的限制，影響將非常重大。禁止開源的話，創(chuàng)業(yè)公司會紛紛倒閉。所有的發(fā)展基本上都被大公司壟斷，這些公司將永遠掌握權力。

2、關于開源的重要性

現(xiàn)代技術，現(xiàn)代計算機科學和現(xiàn)代軟件基本上是一個三角關系：開源、創(chuàng)業(yè)公司和學術界。

3、關于AI的安全問題

我有一個九歲的孩子，我希望他能夠注冊使用互聯(lián)網(wǎng)服務，并且希望他能有像迪士尼樂園那樣的體驗。但我希望他能有一些控制。我認為公司在這方面有很大的自主權。

4、人工智能“一夜成名”

人工智能領域?qū)嶋H上已經(jīng)有80年的歷史了。現(xiàn)在一夜成名，這真的是一件非常了不起的事情。

圖片來源：截圖于Youtube

對話中，安德森分享了他對技術監(jiān)管的看法，特別是關于預防原則的討論。他警告說，過度監(jiān)管可能會阻礙技術的發(fā)展，以德國綠黨對核能的回應和美國尼克松時期的“獨立計劃”為例，指出了監(jiān)管過度可能帶來長遠影響。

李飛飛詢問了開源在現(xiàn)代技術發(fā)展中的角色。安德森認為，開源不僅是軟件代碼的自由，更是創(chuàng)新生態(tài)系統(tǒng)的關鍵：“如果開源以某種方式被禁止或限制，那將是影響非常巨大的。”他警告說，過度的限制可能會導致初創(chuàng)公司倒閉，創(chuàng)新受限，最終導致技術發(fā)展被少數(shù)大公司壟斷。

在討論人工智能的信任與安全時，安德森指出，這些概念已經(jīng)被預防原則所“劫持”，并可能導致過度的自我監(jiān)管：“信任和安全是一個術語，基本上在現(xiàn)代科技公司內(nèi)部，它相當于內(nèi)部事務。”

圖片來源：截圖于Youtube

在討論斯坦福大學在人工智能領域的歷史和未來時，安德森表達了他的期望：“我希望斯坦福大學能夠捍衛(wèi)知識自由、學術自由、實驗自由、創(chuàng)新自由、開發(fā)自由和部署自由。”同時，他也強調(diào)了政府在資助人工智能研究中的作用，并對未來持樂觀態(tài)度。

作為HAI研究所的所長，李飛飛對人工智能的未來發(fā)展充滿期待：“我們正處于人工智能的黎明時期。”她認為，HAI將繼續(xù)在技術創(chuàng)新和跨學科研究中發(fā)揮重要作用。

以下為李飛飛與馬克·安德森對話節(jié)選：

李飛飛：

我非常興奮能主持與馬克的爐邊談話，馬克是我多年的好友和同事。我不知道你們對馬克的背景了解多少，雖然馬克無需過多介紹，但真正讓我印象深刻的是，他在互聯(lián)網(wǎng)初期就已經(jīng)參與其中，是推動互聯(lián)網(wǎng)發(fā)展的重要人物之一。而現(xiàn)在，我們正處于人工智能的初期階段，作為硅谷有影響力的風險投資家，馬克所在的公司正處于推動人工智能發(fā)展的核心位置。另外，我還想提到的是，馬克在去年寫了一篇非常有影響力的《技術樂觀主義者宣言》，這篇宣言因其堅定地認為由自由市場驅(qū)動的技術進步對人類進步至關重要而廣受關注。

馬克，你一直是振興這個生態(tài)系統(tǒng)方面的非常積極的倡導者。你相信AI，讓AI發(fā)生，創(chuàng)造AI。今天，我們在這里慶祝HAI五周年。我們正處于最新一代人工智能革命的中心。進一步闡述。請與我們分享您的想法。

馬克：

首先，很高興能來到這里，看到HAI在過去五年里所做的所有工作，真的非常棒。首先，我認為這次對話的進行非常好。你知道，在硅谷的前20年，我們基本上只是在開發(fā)工具。而實際上，在過去十年里，我才開始描述硅谷在政治和倫理以及這些更大的社會問題上的角色，我們開發(fā)出所有這些工具后，發(fā)現(xiàn)它們對社會和政治系統(tǒng)確實非常重要，但卻有點措手不及，不知道該如何應對。

為了說明我的觀點，我先講一個故事，這個故事可以幫助你了解我的思考方式。如今圍繞社交媒體進行的討論已經(jīng)持續(xù)很久了，而現(xiàn)在這種討論也開始出現(xiàn)在互聯(lián)網(wǎng)和人工智能領域。故事大致是這樣的：出現(xiàn)了一個新事物，我們需要討論它是否會帶來危害。如果它有害，就需要進行控制、監(jiān)管或者停止。這種討論的隱含基礎在科技倫理學中被稱為預防原則。

預防原則是一個基本的、似乎非常合理的主張，即技術的發(fā)明者應該能夠預測它是否會產(chǎn)生負面影響。如果會產(chǎn)生負面影響，他們有責任阻止它。

預防原則有一個非常有趣的起源。它來自20世紀70年代德國綠黨對民用核電工業(yè)崛起的回應。核技術顯然在20世紀40年代和50年代作為一種軍事技術出現(xiàn)。然后到了50年代和60年代，民用核能出現(xiàn)了大發(fā)展，人們開始期待從原子能中獲得無限的能量。

到了70年代，德國綠黨站出來決定停止核能，并制定了預防原則，提出只要民用核能開發(fā)商不能證明核能在任何情況下都是完全無害的，就應該停止部署?；旧线@個方法奏效了，核能停止了。

在美國，這個想法被采納了。1971年，我出生那年，時任總統(tǒng)尼克松提出了一個他稱之為“獨立計劃”的計劃，即到1980年在美國國內(nèi)建造一千座核電站。電網(wǎng)改用核電，將使我們完全脫離中東。這將使美國基本上可以實現(xiàn)完全清潔、零排放、零碳排放的能源。這將推動向電動汽車的轉變。

然后，他成立了核管理委員會，阻止了這種情況的發(fā)生。而今天，美國正在開發(fā)的新核電站為零。如果你看看過去40年民用核電的部署圖表，它基本上完全停止了。對于任何關心碳排放氣候的人來說，這無疑是一個巨大的錯失良機。

回顧過去，我們基本上感到震驚，我們只是覺得，天哪，他們怎么會犯下如此可怕的錯誤。順便說一句，在過去70年對民用核能的全面核算中，現(xiàn)在非常清楚，它是最安全的能源形式，與任何其他能源相比，它造成的人員死亡人數(shù)基本上極少。

李飛飛：

你在人工智能中看到了這種危險？

馬克：

是的。這基本上是相同的討論。

李飛飛：

能再詳細說說嗎？

馬克：

討論中的假設是，如果存在潛在危害，那么就應該有監(jiān)管、控制、限制、暫停、停止、凍結，還有各種不同的提議。但這是一種壓倒性的負面框架，這種風險規(guī)避框架，與預防原則非常一致，但它是討論的框架。

李飛飛：

讓我們深入討論一下其中一個，因為這兩個主題都集中在一個辯論上，那就是對開源的激烈辯論?，F(xiàn)在，它正在全國范圍內(nèi)發(fā)生。在加利福尼亞州，州參議院正在審議關于監(jiān)管和控制潛在開源的令人不安的法案。你對此有何看法？

馬克：

關于開源的討論非常有趣，因為它被描述為，有一維版本，或者一步版本，還有兩步版本。一步版本與預防原則非常一致。我認為當前的加州法案反映了這一點。歐盟的《人工智能法案》也反映了這一點。我認為加州的法案在某種程度上是基于歐盟的《人工智能法案》，該法案是在立法中實施的預防原則，也就是說，人工智能被認為是潛在的有害的，因此必須加以控制以防止危害。

無論如何，這就是預防原則的全部內(nèi)容，這聽起來總是很合理，因為你怎么可能反對它呢？但是，重要的是要考慮第二步，特別是關于開源。

開源，最初這個術語的含義是“自由軟件”，意思是我可以下載它，可以查看它。它是一個白盒子，而不是黑盒子。我可以看到它里面的東西。我可以修改它并且可以從中學習。

所以，我認為必須問的第二個問題是，你需要設計什么樣的社會來擁有執(zhí)行機制，以執(zhí)行任何形式的開源禁令或限制。你會探尋人們對這個問題的看法，建議的范圍通常是這樣的：我們只需要在每個芯片上安裝一個軟件代理，檢查人們是否在運行經(jīng)過批準的開源軟件。在這一點上，我會說，《1984》并不是一本操作手冊，我們不應該在所有計算機上都運行軟件代理。這只是第一步，接下來的政策建議會越來越令人恐懼。我認為，這些建議最終在《時代》雜志上達到了一個非常坦誠的表達，大約一年前，艾里澤·尤德科夫斯基在《時代》雜志上寫了一篇文章，表達了他的想法。他基本上說，要實施對強人工智能和開源的禁令，不僅需要達到讓奧威爾都臉紅的全面監(jiān)控程度，還需要在全球范圍內(nèi)執(zhí)行，因為僅在美國禁止是不夠的。

所以你需要有一個全球禁令，當然你需要有執(zhí)行全球禁令的機制。所以你真的要問自己，究竟想要生活在一個怎樣的社會，才能執(zhí)行這樣的事情。順便說一下，我站在反對這一點的那一邊。

李飛飛：

你能談談我們?yōu)槭裁葱枰_源嗎？為什么你要和硅谷這么多的創(chuàng)業(yè)公司合作？為什么開源如此重要？

馬克：

是的，這就是另一種看待這個問題的方式，即開源在其中扮演什么角色。撇開人類自由的問題不談，這很重要，還有避免引發(fā)第三次世界大戰(zhàn)，這也很重要。另一個問題是，開源在創(chuàng)新生態(tài)系統(tǒng)中扮演什么角色？我可以告訴你，我的看法是，現(xiàn)代技術，現(xiàn)代計算機科學和現(xiàn)代軟件基本上是一個三角關系：開源、創(chuàng)業(yè)公司（這是我的日常工作）和學術界。我坦率地認為，如果開源被禁止或受到某種程度的限制，那將是影響非常重大的。

首先，我認為創(chuàng)業(yè)公司將會滅亡，因為我們資助的每一家創(chuàng)業(yè)公司基本上都是建立在開源基礎上的。大家都理所當然地認為可以使用開源來構建新軟件項目。因此，創(chuàng)業(yè)公司就會倒閉。接下來的一步、兩步，創(chuàng)業(yè)公司紛紛倒閉。因此，所有的發(fā)展基本上都被委托給那些大公司的壟斷集團，這些公司將永遠掌握權力。

再次問問自己，這真的是你想要的結果嗎？然后第三點是，學術界基本上會消亡，尤其是計算機科學領域的學術研究會消亡，任何相關機構都會消亡。我不知道如果沒有開源，學術界還能做什么工作，因為我們也是開源軟件的最大提供者之一。

李飛飛：

如果沒有開源，我不知道這里的工作會發(fā)生什么，因為我們也是一些最大的開源軟件提供商。

在您的宣言中，您實際上使用了“敵人”這個詞。與這個詞相關的是，您談到了技術倫理、信任和安全等想法，在某種程度上，它也與象牙塔有關。您剛才提到您關心學術界和生態(tài)系統(tǒng)，我知道您確實關心。那么，您如何調(diào)和您在文章中寫的內(nèi)容？您的真正意思是什么？您如何看待學術界的這一歷史性時刻？

馬克：

是的，我先從我使用“敵人”這個詞開始說起。我在文章中非常明確地提到，我談論的是思想，而不是人。因此，我認為參與這些事情的任何人都不會將他們視為敵人。但我確實認為有些想法很糟糕。我認為我們生活在一個有些糟糕想法已經(jīng)變得非常普遍的時代，這些想法需要受到挑戰(zhàn)，我已經(jīng)闡述過了。

李飛飛：

那么，為什么人工智能中存在信任和安全問題？

馬克：因為它被“劫持”了。這是在公司內(nèi)部實施的一種預防原則。對于那些不了解的人來說，信任和安全基本上是現(xiàn)代科技公司內(nèi)部的一個術語。它基本上是一個內(nèi)部事務的等價物，負責實施內(nèi)部限制。這一概念最早開始于互聯(lián)網(wǎng)公司。

我認為第一個設立信任和安全部門的公司是eBay，用來監(jiān)管互聯(lián)網(wǎng)拍賣。當然，如果你要運營一個互聯(lián)網(wǎng)拍賣網(wǎng)站，就需要有一個監(jiān)管功能。我還記得eBay剛開始的時候，大家都覺得這個想法不可思議，因為怎么可能有人會信任別人呢？

eBay之所以成功有兩個原因。首先，Pierre Omidyar相信大多數(shù)人都是善良的，所以大多數(shù)人都會列出合法產(chǎn)品并參與交易。但他也認為，擁有一種稱為信任和安全的職能也很重要。

李飛飛：

這是一種很好的、沒有被“劫持”的信任。

馬克：

是的，這是絕對必要的。

然后，第二階段是社交媒體公司。如果你要為人們提供一個平臺來交換信息，你需要有一個團隊來維護、監(jiān)控和管理它。但問題總是，你在哪里劃清界限，那些價值觀是什么？當你問這個問題時，你馬上就進入了政治哲學的領域，你處于設計和治理的領域。

李飛飛：

那么你的底線是什么？比如，你認為哪些地方信任和安全最重要，哪些地方超出了你的界限？

馬克：

我認為它很復雜，這些都是非常宏觀的問題。這些是政治結構的核心問題。這些是社會結構的大問題。這些都是重大的倫理和道德問題。所以這非常復雜。

具體到公司方面，情況就變得更加復雜，因為公司至少在理論上是私人行為者。而私人行為者可以擁有比公共行為者更受限制的領域。

我有一個九歲的孩子，我希望他能夠注冊使用互聯(lián)網(wǎng)服務，并且希望他能有像迪士尼樂園那樣的體驗。我喜歡互聯(lián)網(wǎng)的自由世界，有一天他也會喜歡這種自由，但我希望他能有一些控制。我認為公司在這方面有很大的自主權。迪士尼的例子就是一個很好的例子。迪士尼對樂園內(nèi)的行為準則有不同的規(guī)定，與奧蘭多街頭的情況不同。我認為這些都是好的和合理的。

李飛飛：

那么你認為治理從何而來？

馬克：

從根本上講它必須來自領導層，這始終是一個領導層的問題，它必須在各個機構中。

李飛飛：

那社會呢？

馬克：

是的。所以它必須通過（社會）。這些都是非?；钴S的辯論，從社會層面一直到最高法院。而且還會有更多這樣的辯論。然后看看公司內(nèi)部。我會把它描述為我們在這個行業(yè)中是趕上公共汽車的狗。我對這些平臺上發(fā)生的事情負有部分責任，這確實很重要。這些系統(tǒng)中發(fā)生的事情真的很重要。這些公司中發(fā)生的事情真的很重要。

我想說，如果這個行業(yè)被精簡為兩三四家大公司，這些公司會獲得監(jiān)管俘獲，我認為這是他們正在嘗試做的事情。如果他們基本上與政府聯(lián)合起來，那么我認為我們必須處理一系列非常有力的社會層面問題。

如果在未來幾年存在競爭格局，有大公司，有很多初創(chuàng)公司，有開源，有學術界，這些領域之間存在某種活力和競爭，那么我認為，就會有更多的靈活性，更多不同的方法，我希望看到更多。我希望看到更多，我認為這實際上是一個非常健康的結果。

李飛飛：

這就是你我完全同意的地方。

最后，您對斯坦福高中和斯坦福大學有什么希望和夢想？尤其是我們是世界領先的人工智能跨學科研究所。您對我們和我們的角色有什么希望和夢想？

馬克：

所以首先說，就像您提到的那樣，我感覺到了人工智能時代的曙光。因為眾所周知，人工智能領域?qū)嶋H上已經(jīng)有80年的歷史了。

李飛飛：

是的，但我們已經(jīng)經(jīng)歷了這么多困難與挑戰(zhàn)，我們走過了一條漫長而曲折的道路，才到達今天的位置。在座的各位可能都知道這一點。

馬克：

Thomas Ridd寫了一本很棒的書，名為《機器的崛起》，他在書中回顧并真正追溯了機器的起源。20世紀30年代，人們實際上曾爭論過計算機是否應該是馮·諾依曼機器，還是應該模仿人腦。這是一個有80、90年歷史的領域。上世紀80年代人工智能蓬勃發(fā)展。之后出現(xiàn)了一次大蕭條，即專家系統(tǒng)浪潮。所以，我覺得，我甚至不知道歷史上有先例可以孵化這么長時間。然后，砰的一聲，結果證明它成功了。我不知道有多大的驚喜，也許你一直有信心。

李飛飛：

我不知道，就像化學和物理學在現(xiàn)代科學出現(xiàn)之前就已經(jīng)醞釀了幾百年一樣，但你是對的。你說得有道理。

馬克：

是的。這是發(fā)展80年來的一次一夜成名，這真的是一件非常了不起的事情。我之所以提起這件事，只是因為斯坦福大學在每一步都發(fā)揮了作用。斯坦福大學人工智能小組、斯坦福大學、麻省理工學院和其他幾所機構有著悠久而豐富的歷史，它們?yōu)閷崿F(xiàn)這一點做出了很大貢獻。所以這里的遺產(chǎn)是巨大的。我完全希望在技術方面繼續(xù)這樣做。