小紅書近日在北京舉辦了首屆AI治理開放日活動(dòng)，首次系統(tǒng)性地公開了平臺(tái)對(duì)人工智能生成內(nèi)容的治理框架。該框架以“真實(shí)性”與“原創(chuàng)價(jià)值”為核心標(biāo)尺，通過“鼓勵(lì)清單”與“禁止清單”雙軌機(jī)制，為創(chuàng)作者提供明確的創(chuàng)作指引。平臺(tái)明確要求所有AI參與生成的內(nèi)容必須主動(dòng)標(biāo)識(shí)，未標(biāo)識(shí)內(nèi)容將由系統(tǒng)自動(dòng)添加識(shí)別標(biāo)簽，但標(biāo)識(shí)行為不會(huì)影響內(nèi)容流量分發(fā)。

在內(nèi)容鼓勵(lì)方向上，平臺(tái)重點(diǎn)支持三類AI創(chuàng)作場(chǎng)景：一是知識(shí)可視化創(chuàng)新，如將專業(yè)領(lǐng)域知識(shí)轉(zhuǎn)化為動(dòng)態(tài)科普內(nèi)容；二是虛擬角色與IP衍生創(chuàng)作，鼓勵(lì)開發(fā)具有辨識(shí)度的數(shù)字形象；三是高質(zhì)量視覺創(chuàng)作，涵蓋藝術(shù)插畫、敘事性繪畫及具有電影質(zhì)感的短片制作。央美國(guó)畫專業(yè)畢業(yè)生@一方畫貓呢 在活動(dòng)中分享了創(chuàng)作案例，其通過AI技術(shù)將靜態(tài)院體畫轉(zhuǎn)化為動(dòng)態(tài)影像，在保持原創(chuàng)筆觸的同時(shí)，使畫面呈現(xiàn)穿云動(dòng)效等視覺突破。該創(chuàng)作者強(qiáng)調(diào)，AI僅作為最終階段的視覺增強(qiáng)工具，核心創(chuàng)意與手繪部分仍由人工完成。

針對(duì)AI濫用問題，平臺(tái)劃定了四條治理紅線：嚴(yán)厲打擊利用AI進(jìn)行賬號(hào)托管、批量造假、侵權(quán)創(chuàng)作及低質(zhì)內(nèi)容生產(chǎn)。具體包括禁止全自動(dòng)運(yùn)營(yíng)賬號(hào)、仿冒名人身份、虛構(gòu)人設(shè)經(jīng)歷、惡意篡改經(jīng)典作品等行為，同時(shí)對(duì)批量生成同質(zhì)化內(nèi)容、傳播極端畫面或不良價(jià)值觀的內(nèi)容采取限制曝光直至封禁的處罰措施。據(jù)用戶信任中心負(fù)責(zé)人披露，2024年以來平臺(tái)已處置超百萬例AI違規(guī)行為，其中托管賬號(hào)超80萬個(gè)，虛假筆記近15萬篇。

為保障治理措施落地，平臺(tái)建立了多層次保障機(jī)制：開通AI標(biāo)識(shí)申訴通道，允許創(chuàng)作者對(duì)系統(tǒng)誤判進(jìn)行反饋；優(yōu)化流量分配算法，確保優(yōu)質(zhì)內(nèi)容獲得公域推薦；定期更新技術(shù)識(shí)別模型，提升對(duì)新型違規(guī)行為的監(jiān)測(cè)能力。AI科普創(chuàng)作者@大師的AI小灶 在討論中指出，當(dāng)前技術(shù)發(fā)展速度遠(yuǎn)超公眾認(rèn)知水平，平臺(tái)治理規(guī)則的及時(shí)完善對(duì)維護(hù)內(nèi)容生態(tài)健康至關(guān)重要。

此次治理框架的推出，是平臺(tái)對(duì)“真誠(chéng)分享”社區(qū)價(jià)值觀的延續(xù)性實(shí)踐。通過建立AI創(chuàng)作行為規(guī)范，小紅書試圖在技術(shù)革新與人文價(jià)值之間尋找平衡點(diǎn)，既為創(chuàng)新工具提供應(yīng)用空間，又堅(jiān)守真實(shí)人際連接的核心屬性。該舉措也為行業(yè)提供了治理樣本，顯示頭部平臺(tái)正在通過制度設(shè)計(jì)應(yīng)對(duì)人工智能帶來的內(nèi)容生態(tài)挑戰(zhàn)。