每經(jīng)記者 劉春山    每經(jīng)編輯 文多    

“人工智能算法下一些外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”；“法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)”；“‘無人車’行駛背后的權(quán)責(zé)歸屬引關(guān)注”……剛剛過去的2020年中，隨著人工智能技術(shù)大范圍應(yīng)用，引起的社會倫理爭議也在增多。AI造福人類的同時，外界也越來越關(guān)注人工智能該如何去治理？

就AI治理現(xiàn)存挑戰(zhàn)、人工智能治理中企業(yè)的責(zé)任等問題，《每日經(jīng)濟新聞》記者近日與曠視首席發(fā)展官、AI治理研究院院長徐云程進行了深度的交流。以剛發(fā)布的“2020年度全球十大人工智能治理事件”為例，徐云程談道，雖然企業(yè)的AI治理并無成熟的模式可遵循，但AI企業(yè)擔(dān)負(fù)著推動AI產(chǎn)業(yè)可持續(xù)發(fā)展的重任，需要秉持長期主義精神，任重而道遠。企業(yè)做AI治理，需要一手拿著“望遠鏡”，看到技術(shù)研究的過去與未來，另外一手拿著“顯微鏡”，將緊迫的問題放大。

徐云程同時稱，技術(shù)治理的理念在以往是“讓子彈飛一會兒”模式，互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展就是先發(fā)展后治理。“但人工智能技術(shù)，因為它的影響力巨大和迭代速度加快，所以業(yè)界現(xiàn)在越來越有共識，不能套用以前先發(fā)展后治理的思路，要邊發(fā)展邊治理。”徐云程呼吁，當(dāng)前對人工智能倫理的擔(dān)憂已經(jīng)上升到倫理風(fēng)險的高度，各界應(yīng)該盡快采取行動。

徐云程 圖片來源：受訪者提供

企業(yè)人工智能治理需要自上而下推行

NBD：目前，人工智能治理存在哪些挑戰(zhàn)？

徐云程：一方面，大眾對于人工智能的技術(shù)和產(chǎn)品效用存在嚴(yán)重的信息不對稱，如果此時又缺少充分的溝通，很容易產(chǎn)生負(fù)面認(rèn)知，從而對人工智能產(chǎn)業(yè)的發(fā)展造成不利影響。

再則就是，人工智能的倫理問題落到企業(yè)語境下要成為可執(zhí)行的企業(yè)治理行動，而這個過程是一個典型的交叉學(xué)科范疇。如何以多方參與的形式、運用綜合手段來推動企業(yè)的發(fā)展，對于企業(yè)來說是個巨大考驗。

三是我們發(fā)現(xiàn)許多新產(chǎn)生的問題目前還沒有得到人們的普遍重視，更缺少專門的深度研究。這造成了在AI治理的領(lǐng)域，問題遠遠多于答案。

NBD：怎么理解人工智能算法的黑箱特性？

徐云程：大家對于AI進行深度學(xué)習(xí)（這點上），算法黑箱是海內(nèi)外共通的擔(dān)憂。在現(xiàn)在的技術(shù)水平下，深度學(xué)習(xí)算法有它自己的黑箱特性。這就要求我們在進行產(chǎn)品研發(fā)和設(shè)計時，考慮到深度學(xué)習(xí)算法的必要性、是否有替代技術(shù)。另外就是，我們要關(guān)注深度學(xué)習(xí)算法精確程度是否足以商業(yè)化，是否會有誤判的情形。

NBD：曠視的人工智能治理是如何推行的？

徐云程：AI治理這件事情在曠視先是自上而下推行，需要高層發(fā)起和推動。現(xiàn)在慢慢變成了自下而上——各層的員工開始有感知、有意識，正逐漸成為“大眾運動”。

對內(nèi)，AI治理從研發(fā)學(xué)術(shù)、產(chǎn)品工程、客戶渠道和運營管理四個方面開展了務(wù)實的工作。在新產(chǎn)品產(chǎn)生的過程中，我們希望在產(chǎn)品早期規(guī)劃研發(fā)的時候，就要加入AI治理的介入，把AI倫理作為一個打分項，整體考慮要不要做這樣一個產(chǎn)品。在客戶管理溝通中，我們在每件軟、硬件產(chǎn)品中都放入了《正確使用人工智能產(chǎn)品倡議書》，倡導(dǎo)客戶和合作伙伴一起加入AI治理的行列。

NBD：你在AI治理研究院的研究方向是什么？

徐云程：人工智能最重要的是“數(shù)據(jù)”問題。數(shù)據(jù)隱私保護與數(shù)據(jù)安全，是需要全社會長期關(guān)注的事情，這不光涉及到科技倫理問題，也涉及到法律法規(guī)的制定，以及技術(shù)應(yīng)用本身。這其中需要相關(guān)各方去界定隱私的含義和邊界、數(shù)據(jù)使用的規(guī)則和懲戒，以及如何形成對各種數(shù)據(jù)管理的多元共治。

再則需要思考，人工智能產(chǎn)業(yè)哪些場景下技術(shù)的產(chǎn)品化面臨紅線。這需要探索企業(yè)內(nèi)部風(fēng)險評估與管理的路徑，通過將目標(biāo)、人員、規(guī)則、機制、技術(shù)進行有機融合，形成一套管控體系。

體驗AI寫詩。圖片來源：每經(jīng)記者 張建 攝（資料圖）

要用“顯微鏡”將緊迫的問題放大看

NBD：企業(yè)以商業(yè)利益為主，進行AI治理必然增加成本？

徐云程：大眾對于倫理道德認(rèn)知有一個循序漸進的過程。對于企業(yè)來說，一個負(fù)責(zé)任的企業(yè)、有中長期發(fā)展規(guī)劃的企業(yè)，才是一個穩(wěn)健型的企業(yè)。企業(yè)的AI治理是個長效機制，我們看到很多兩年前不是問題的現(xiàn)象，在今天都成為了潛在的風(fēng)險，或者成為一個合規(guī)成本。

所以，相較于回報，AI治理的投入就并不顯得大了。這并不是只要重金投入就能做好的事情，更多的是大家意識到這件事情的重要性，值得專心去做。我們很多研究課題是聯(lián)合外部一流的研究機構(gòu)一起做的。專業(yè)的人做專業(yè)的事，企業(yè)也沒有必要去培養(yǎng)幾十人的研究團隊、天天做和業(yè)務(wù)沒有關(guān)系的課題了。

對于產(chǎn)業(yè)發(fā)展的治理，以前經(jīng)常碰到這種思潮，即科技創(chuàng)新需要“讓子彈飛一會兒”，大家都希望在開始時給技術(shù)一段自由發(fā)展的時間，當(dāng)問題累積到一定程度之后，再來研究解決的方法。所謂“先發(fā)展后治理”的模式就是這樣產(chǎn)生的，互聯(lián)網(wǎng)時代是這樣，其他技術(shù)的治理也是這樣。但隨著人工智能技術(shù)越來越強大，它的影響力更深更廣，迭代速度也更快，所以業(yè)界現(xiàn)在越來越有共識，不能套用以前治理的老方法，而是要“邊發(fā)展邊治理”。當(dāng)然，這樣也引發(fā)了下一個問題，即在創(chuàng)新往前沖的過程中，怎樣才能做到對風(fēng)險的預(yù)判？

NBD：近兩年，外界對人工智能治理的關(guān)注有什么變化？

徐云程：我們剛開始是通過海外媒體關(guān)注到人工智能治理這件事情的。在2019年，海外媒體和曠視做交流的時候，三句不離和AI倫理有關(guān)的事情，以及企業(yè)在做哪些治理工作。因此，初期我們更多是跟海外溝通并尋找一些全球可借鑒的經(jīng)驗。

第二個階段是2019年中后期，我們看到國內(nèi)社交媒體上越來越多的人開始關(guān)注AI技術(shù)是不是在向可持續(xù)的、負(fù)責(zé)任的方向發(fā)展。因此，我們意識到，這是個全球性話題，需要社會各界、國內(nèi)外各方共同參與。

到2020年第三個階段，曠視開始在企業(yè)內(nèi)部管理上做更多的反思和突破。隨之發(fā)現(xiàn)，在企業(yè)運營的流程中和人員培訓(xùn)的過程中，AI治理對企業(yè)的健康發(fā)展可以帶來很多價值，也可以具有很多優(yōu)勢。

NBD：在做人工智能治理時，你認(rèn)為企業(yè)的態(tài)度應(yīng)該是什么？

徐云程：技術(shù)的發(fā)展、商業(yè)的應(yīng)用、規(guī)則的制定應(yīng)該是相輔相成的，越多的交流越能讓產(chǎn)業(yè)健康發(fā)展；同時AI治理的每一步都要反映到日常工作中。雖然企業(yè)的AI治理并無成熟的模式可遵循，但我們正在秉持一貫的長期主義精神，用大膽向前、小心求證的方式探索一條適合自己的道路。

所以，企業(yè)做AI治理，需要一手拿著“望遠鏡”，一手拿著“顯微鏡”。“望遠鏡”是指幫助企業(yè)看到技術(shù)研究的過去與未來，國內(nèi)外的差異，綜合思考問題、解決問題。“顯微鏡”是指將緊迫的問題放大，仔細研究，厘清其中緣由，并快速解決。企業(yè)只有充分發(fā)揮“望遠鏡”和“顯微鏡”的綜合作用，才能把握正確的發(fā)展方向，真正實現(xiàn)用人工智能造福大眾。