小紅書平臺近期針對站內出現的AI技術濫用問題展開專項整治行動。平臺官方賬號“薯管家”發布公告稱，將全面升級對人工智能生成內容的監管措施，要求創作者必須對AI合成內容進行明確標識，以維護社區內容真實性和用戶權益。
據平臺披露，近期收到大量用戶舉報，反映部分賬號通過AI技術偽造公眾人物形象、制作虛假視頻。這些未經授權的內容不僅侵犯當事人肖像權，更因未履行標識義務導致信息真偽難辨，嚴重破壞社區信任體系。平臺數據顯示，僅上月就處理相關違規內容超2.3萬條。
新實施的監管方案采用"雙軌制"標識體系：創作者需在發布環節主動勾選"AI生成"選項，系統將自動添加特殊標識；若未主動標識，平臺檢測系統將通過圖像特征分析、行為模式識別等技術手段進行二次判定，強制添加醒目標識。這種設計既保障合規內容傳播效率，又形成技術防控閉環。
在處罰機制方面，平臺建立分級處置體系。首次違規將收到警告并強制標識，二次違規內容推薦權重降低50%，三次及以上違規賬號將被限制發布權限。特別針對涉及公眾人物的AI合成內容，平臺將啟動專項審核通道，要求提供原始素材授權證明。
技術層面，平臺投入研發的AI內容檢測系統已實現多模態識別能力，可精準區分深度偽造、風格遷移等不同技術路徑生成的合成內容。該系統與國家網信辦《人工智能生成合成內容標識辦法》實現數據互通，確保監管標準與行業規范同步。
此次整治行動同步啟動創作者教育計劃，通過線上課程、案例解析等方式幫助用戶理解合規要求。平臺負責人表示，將持續優化技術手段，建立"技術防控+人工審核+用戶舉報"的三維治理體系，堅決遏制AI技術濫用勢頭。
