每經(jīng)記者 劉春山    每經(jīng)編輯 張海妮    

10月15日，百度安全總經(jīng)理馬杰在介紹AI安全相關(guān)情況 

圖片來(lái)源：每經(jīng)記者 劉春山 攝

“2017年底百度就發(fā)表過(guò)一篇論文。當(dāng)年市場(chǎng)上8款旗艦機(jī)，拿一個(gè)小小的指紋印章就打開。通過(guò)拍照、玻璃杯提取指紋就能做到，雖然這些手機(jī)沒(méi)有被做過(guò)任何手腳，也能被輕松騙過(guò)。”百度安全總經(jīng)理馬杰曾表示。近期，拍照就能提取指紋的傳言讓大家有所擔(dān)憂。10月15日，馬杰表示，外界所說(shuō)的該情形從技術(shù)上是能夠在一定程度上實(shí)現(xiàn)的。其同時(shí)表示，在5G以及AI時(shí)代，網(wǎng)絡(luò)信息環(huán)境或?qū)⒈┞冻龈辔ｋU(xiǎn)因素，而新的AI技術(shù)能輕松篡改各種傳感器，安全人員需要花更多精力去研究防治策略。

實(shí)際上，面對(duì)新的技術(shù)威脅，馬杰對(duì)未來(lái)的信息安全環(huán)境表示看好。馬杰在接受《每日經(jīng)濟(jì)新聞》采訪時(shí)表示，做信息安全永遠(yuǎn)是跟著時(shí)代步伐走的，當(dāng)初百度全面去做AI儲(chǔ)備時(shí)，就開始在做AI安全這件事情，“其實(shí)很多時(shí)候問(wèn)題只要被提出來(lái)了，解決方案還是比較好辦的。如果發(fā)現(xiàn)不了（問(wèn)題），反而是最大的問(wèn)題。”

談信息安全：可從攻擊者角度去思考問(wèn)題

拍照“比V”就能被提取指紋，換臉軟件是否保存面部信息，近來(lái)一系列關(guān)于個(gè)人生物識(shí)別信息泄漏的話題在網(wǎng)絡(luò)上被熱烈討論。除了個(gè)人隱私信息之外，大家更擔(dān)心隨之而來(lái)的資金風(fēng)險(xiǎn)。

據(jù)馬杰介紹，之前的互聯(lián)網(wǎng)時(shí)代，最主要的安全風(fēng)險(xiǎn)以病毒為核心，包含一些網(wǎng)絡(luò)的DDos攻擊。到了移動(dòng)互聯(lián)網(wǎng)時(shí)代，隨著手機(jī)越做越安全，病毒不再是問(wèn)題的時(shí)候，電信欺詐、偽基站的問(wèn)題又出來(lái)了?，F(xiàn)在到了人工智能時(shí)代，以前的這些風(fēng)險(xiǎn)會(huì)繼續(xù)存在，但也出現(xiàn)了一些新的風(fēng)險(xiǎn)。在過(guò)去的工業(yè)革命中，往往都是人類去適應(yīng)新的機(jī)器，人類學(xué)著怎么安全駕駛，學(xué)習(xí)怎樣安全用電。而在AI時(shí)代，第一次人類發(fā)明的事物要先來(lái)“適應(yīng)人”，這個(gè)變化是巨大的，帶來(lái)了包括模型安全在內(nèi)的新問(wèn)題，衍生出不同的信息安全挑戰(zhàn)。

馬杰表示，機(jī)器深度學(xué)習(xí)需要大量的數(shù)據(jù)作為原料讓它們變得聰明，這同時(shí)就帶來(lái)了數(shù)據(jù)安全和隱私的問(wèn)題，如何去度量中間的“尺度”尤為重要。此外，AIoT設(shè)備全面覆蓋，數(shù)量還會(huì)爆發(fā)式增長(zhǎng)。AI正在滲透到社會(huì)和經(jīng)濟(jì)的方方面面，在AI時(shí)代，可能一個(gè)小的風(fēng)險(xiǎn)就會(huì)造成一個(gè)更大的問(wèn)題，會(huì)因?yàn)榱孔兌a(chǎn)生質(zhì)變。

AI技術(shù)的復(fù)雜性，呼喚安全技術(shù)進(jìn)行升級(jí)。馬杰介紹，AI時(shí)代的安全威脅主要來(lái)自模型安全、數(shù)據(jù)安全與隱私、系統(tǒng)與網(wǎng)絡(luò)安全、安全生態(tài)四個(gè)方面。

在AI時(shí)代，如何更好地解決安全問(wèn)題？馬杰同時(shí)強(qiáng)調(diào)，從攻擊者角度去思考，是提升安全防護(hù)能力和效率的一大途徑。比如，百度自己的AI技術(shù)可以生成“假臉”，同步也在研究如何識(shí)別“假臉”。

“你給我若干句話，我可以把你的聲音創(chuàng)造出來(lái)。”稍早之前，人工智能系統(tǒng)微軟小冰的負(fù)責(zé)人李笛在接受《每日經(jīng)濟(jì)新聞》記者專訪時(shí)介紹，微軟小冰一直有這種“黑科技”能力，但沒(méi)有對(duì)普通用戶開放。李笛還表示，人類對(duì)于AI的了解還是知之甚少，人工智能企業(yè)將這些AI技術(shù)產(chǎn)品化時(shí)，應(yīng)當(dāng)保持克制。

談安全企業(yè)生存：要讓安全公司活下去

在人工智能時(shí)代，信息安全更加重要，而百度對(duì)于安全一直高度重視，并在該方面持續(xù)投入。

《每日經(jīng)濟(jì)新聞》記者從百度相關(guān)人士處了解到，百度安全部門在百度內(nèi)部屬于基礎(chǔ)技術(shù)體系（TG），從而作為百度全部業(yè)務(wù)底層安全技術(shù)的重要支撐。目前，百度安全大致分為AI安全、移動(dòng)安全、云安全、數(shù)據(jù)安全、業(yè)務(wù)安全，AI安全是其中最主要的工作和最主要的研究方向。

網(wǎng)絡(luò)黑產(chǎn)打擊也一直是百度的持久戰(zhàn)。馬杰介紹，少數(shù)網(wǎng)站通過(guò)篡改頁(yè)面信息、甚至植入惡意代碼來(lái)侵犯用戶利益，黑產(chǎn)也是所有互聯(lián)網(wǎng)公司、AI公司共同的敵人，百度以往跟各地公安合作偵破了很多案件。

馬杰在溝通會(huì)上演示了一個(gè)視頻片段，車間里前面一批人走過(guò)時(shí)沒(méi)有紅框，而后面一批人出現(xiàn)時(shí)，卻出現(xiàn)了紅框提醒。馬杰介紹，紅框提醒是因?yàn)锳I識(shí)別出后面的人沒(méi)有戴安全帽，若在工廠運(yùn)營(yíng)能提升工人的安全程度。而在工廠之外，還有非常多的小場(chǎng)景能夠?qū)崿F(xiàn)，對(duì)很多AI大牛來(lái)說(shuō)在算法上毫無(wú)挑戰(zhàn)性。

“對(duì)內(nèi)全面覆蓋百度的業(yè)務(wù)場(chǎng)景，對(duì)外是向個(gè)人用戶和商業(yè)伙伴輸出研究、技術(shù)方案，甚至包括很多開放開源的代碼。”馬杰介紹，“開放”是百度安全在AI時(shí)代的聚焦方向，百度推出的AIoT安全解決方案，也已引入華為、TCL、創(chuàng)維等50余家生態(tài)合作伙伴，覆蓋超過(guò)1.5億部設(shè)備。

但目前，大多數(shù)信息安全公司的處境并不是很好。有數(shù)據(jù)顯示，我國(guó)所有的安全公司加起來(lái)一年銷售額只有三四百億元，可能還不及一款游戲的收入。而跟其他發(fā)達(dá)國(guó)家相比，國(guó)內(nèi)在信息安全上的投入還是要小得多。

對(duì)此，馬杰表示，百度雖然不以安全為掙錢目標(biāo)，但外界需要讓這些以安全為生意的公司能活下去，要讓他們做更重要的事情。“如果我們企業(yè)的CEO、負(fù)責(zé)人不能理解安全在其中的重要性，他們一定不會(huì)把錢放到安全維護(hù)里面去。”馬杰說(shuō)，業(yè)界要共同把AI安全這個(gè)事情做好，這比互相搶生意重要得多，“大家把蛋糕做大是首要的事情”。

對(duì)于個(gè)人如何守護(hù)信息安全，馬杰向《每日經(jīng)濟(jì)新聞》記者表示，給予普通用戶具體的一個(gè)技巧是很難的，因?yàn)橐灿刑嘈畔踩珗?chǎng)景，核心是時(shí)刻保持安全意識(shí)。