小紅書平臺近期針對站內(nèi)出現(xiàn)的AI技術(shù)濫用問題展開專項整治行動。平臺官方賬號“薯管家”發(fā)布公告稱，將全面升級對人工智能生成內(nèi)容的監(jiān)管措施，要求創(chuàng)作者必須對AI合成內(nèi)容進(jìn)行明確標(biāo)識，以維護(hù)社區(qū)內(nèi)容真實性和用戶權(quán)益。

據(jù)平臺披露，近期收到大量用戶舉報，反映部分賬號通過AI技術(shù)偽造公眾人物形象、制作虛假視頻。這些未經(jīng)授權(quán)的內(nèi)容不僅侵犯當(dāng)事人肖像權(quán)，更因未履行標(biāo)識義務(wù)導(dǎo)致信息真?zhèn)坞y辨，嚴(yán)重破壞社區(qū)信任體系。平臺數(shù)據(jù)顯示，僅上月就處理相關(guān)違規(guī)內(nèi)容超2.3萬條。

新實施的監(jiān)管方案采用"雙軌制"標(biāo)識體系：創(chuàng)作者需在發(fā)布環(huán)節(jié)主動勾選"AI生成"選項，系統(tǒng)將自動添加特殊標(biāo)識；若未主動標(biāo)識，平臺檢測系統(tǒng)將通過圖像特征分析、行為模式識別等技術(shù)手段進(jìn)行二次判定，強(qiáng)制添加醒目標(biāo)識。這種設(shè)計既保障合規(guī)內(nèi)容傳播效率，又形成技術(shù)防控閉環(huán)。

在處罰機(jī)制方面，平臺建立分級處置體系。首次違規(guī)將收到警告并強(qiáng)制標(biāo)識，二次違規(guī)內(nèi)容推薦權(quán)重降低50%，三次及以上違規(guī)賬號將被限制發(fā)布權(quán)限。特別針對涉及公眾人物的AI合成內(nèi)容，平臺將啟動專項審核通道，要求提供原始素材授權(quán)證明。

技術(shù)層面，平臺投入研發(fā)的AI內(nèi)容檢測系統(tǒng)已實現(xiàn)多模態(tài)識別能力，可精準(zhǔn)區(qū)分深度偽造、風(fēng)格遷移等不同技術(shù)路徑生成的合成內(nèi)容。該系統(tǒng)與國家網(wǎng)信辦《人工智能生成合成內(nèi)容標(biāo)識辦法》實現(xiàn)數(shù)據(jù)互通，確保監(jiān)管標(biāo)準(zhǔn)與行業(yè)規(guī)范同步。

此次整治行動同步啟動創(chuàng)作者教育計劃，通過線上課程、案例解析等方式幫助用戶理解合規(guī)要求。平臺負(fù)責(zé)人表示，將持續(xù)優(yōu)化技術(shù)手段，建立"技術(shù)防控+人工審核+用戶舉報"的三維治理體系，堅決遏制AI技術(shù)濫用勢頭。