11月21日，小紅書副總裁許磊出席2024烏鎮(zhèn)世界互聯(lián)網(wǎng)大會(huì)“人工智能技術(shù)創(chuàng)新與治理”論壇，并發(fā)表主旨演講。許磊指出，AIGC大幅降低內(nèi)容創(chuàng)作門檻的同時(shí)，也對(duì)平臺(tái)治理帶來(lái)了新挑戰(zhàn)。小紅書已初步完成AIGC治理體系建設(shè)，將持續(xù)治理工作推進(jìn)，守好“真實(shí)”的平臺(tái)生命線。

作為鼓勵(lì)用戶真誠(chéng)分享的內(nèi)容社區(qū)，小紅書歷經(jīng)11年，已發(fā)展成“3億人的生活百科全書”?；趥€(gè)性化推薦算法，小紅書平臺(tái)將超過(guò)一半的流量曝光分配給千粉以下用戶，踐行流量普惠。“我們相信算法是有價(jià)值的。”許磊表示。

隨著生成式人工智能技術(shù)的興起，算法從分發(fā)領(lǐng)域進(jìn)入到內(nèi)容生產(chǎn)領(lǐng)域，對(duì)內(nèi)容平臺(tái)帶來(lái)了全新的機(jī)遇與挑戰(zhàn)。AI輔助工具提升了用戶創(chuàng)作的積極性，同時(shí)也降低了惡意仿冒的門檻，增加了虛構(gòu)新聞、假冒真人引流和虛假營(yíng)銷的風(fēng)險(xiǎn)。

許磊表示，小紅書為“真誠(chéng)分享”而生，真實(shí)是小紅書平臺(tái)的生命線。為此，小紅書在2023年就啟動(dòng)應(yīng)對(duì)AIGC的治理體系建設(shè)，并在公司層面成立了專項(xiàng)組，加快治理工作推進(jìn)。

首先，加大AI識(shí)別模型的研發(fā)投入，基于“分類器”技術(shù)的識(shí)別模型，平臺(tái)對(duì)識(shí)別為疑似AI生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)，提醒用戶注意甄別內(nèi)容真實(shí)性。同時(shí)，平臺(tái)設(shè)置了機(jī)器識(shí)別+人工識(shí)別的雙重屏障，以減少AI生成低質(zhì)內(nèi)容的曝光，針對(duì)其中侵權(quán)、假冒、誘導(dǎo)等內(nèi)容第一時(shí)間下架處理。

對(duì)于創(chuàng)作者，平臺(tái)要求主動(dòng)對(duì)AI生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)，并持續(xù)簡(jiǎn)化打標(biāo)流程，鼓勵(lì)創(chuàng)作者利用新技術(shù)進(jìn)行內(nèi)容創(chuàng)新的同時(shí)，也積極參與到生態(tài)建設(shè)中。

“小紅書將創(chuàng)新與治理兩手抓，迎接好新一波人工智能技術(shù)浪潮帶來(lái)的機(jī)遇與挑戰(zhàn)。”許磊表示。