內容平臺圍剿“AI托管”黑產 監(jiān)管與行業(yè)共筑真實性防線

    本報記者 袁傳璽

    3月10日，小紅書發(fā)布《關于打擊AI托管運營賬號的治理公告》，正式向利用技術手段模擬真人互動的“AI托管”黑產宣戰(zhàn)。公告顯示，近期，平臺發(fā)現部分用戶采用AI托管模式運營賬號，通過技術手段自動生成內容、發(fā)布筆記，并在評論、私信、群聊等場景中模擬真人互動。

    小紅書方面強調，數以億計的用戶在小紅書平臺上分享自己的生活經驗，每一次真實的記錄、每一次真誠的交流，共同構成了社區(qū)溫暖的底色。因此，平臺嚴格禁止任何利用技術手段模擬真人、進行非真實內容創(chuàng)作或虛假互動的行為。

    AI托管賬號遭嚴打

    事實上，此次治理并非無的放矢。近期，AI個人智能體火遍全網，人工智能已經從“動口”進化為“動手”。在此背景下，有人用AI托管賬號自動生成筆記、發(fā)布內容，甚至在評論區(qū)模擬真人互動，試圖以技術手段實現“躺著漲粉”“AI養(yǎng)號”的捷徑。

    而在商業(yè)利益的驅動下，AI托管已形成一條“起號—養(yǎng)號—轉賣/變現”的灰色產業(yè)鏈。運營者利用AI批量制造虛假熱度，待賬號積累一定粉絲量后，或直接轉賣牟利，或轉型帶貨、賣課收割韭菜。

    因此，內容平臺加強AI托管賬號管理已勢在必行。具體來看，小紅書對于普通賬號偶發(fā)使用AI托管代寫、代發(fā)筆記或進行互動，平臺將根據違規(guī)程度，采取警告、限制內容分發(fā)等梯度處理措施。同時，對于直接通過AI托管工具注冊、發(fā)布、互動的賬號，或主頁所有公開筆記均為AI托管代發(fā)的賬號，平臺將予以封禁處理。“呼吁用戶在創(chuàng)作過程中合理使用AI工具，堅持由真人分享真實經歷與感受，共同守護社區(qū)的真實底色。”小紅書方面表示。

    有行業(yè)分析師對《證券日報》記者表示：“AI托管賬號產生的內容對平臺生態(tài)的破壞是系統性的。首先，內容質量劣化。AI生成的數字泔水充斥平臺，同質化、低質化內容擠占優(yōu)質創(chuàng)作者流量空間。其次，當用戶無法分辨屏幕背后是真人還是算法，當真誠分享淪為技術表演，平臺賴以生存的社區(qū)氛圍將蕩然無存。最后，監(jiān)管風險陡增。AI托管賬號常被用于傳播虛假信息、實施網絡詐騙、操縱輿論風向，使平臺面臨巨大的合規(guī)壓力。”

    持續(xù)加強內容生態(tài)管理

    小紅書的行動并非孤例。從抖音、微博到微信、百家號，各大主流平臺正以前所未有的力度圍剿低質AI內容。這場戰(zhàn)役的實質，是內容平臺在AIGC時代對真實性這一核心價值的艱難捍衛(wèi)，也是行業(yè)從流量狂歡向質量深耕轉型的關鍵拐點。

    數據顯示，治理風暴正在席卷全網。3月10日，抖音黑板報官方賬號發(fā)布內容，今年以來，針對AI生成色情低俗類違規(guī)內容，已處置4.2萬條內容，對1.4萬個賬號處以限制推薦、禁言、封禁等不同梯度的處罰。

    在各大平臺全力治理AI內容生態(tài)的背后，政策對AI內容的合規(guī)要求日益剛性。隨著《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等法規(guī)落地，平臺責任被進一步壓實。

    在春節(jié)期間，中央網信辦部署開展“清朗·2026年營造喜慶祥和春節(jié)網絡環(huán)境”專項行動明確要求，督促網站平臺集中整治惡意挑動負面情緒、借AI生成傳播“數字泔水”、炮制發(fā)布不實信息、為違法活動引流等問題，積極營造歡樂祥和的春節(jié)網上氛圍。截至目前，依法依約處置賬號3.9萬余個，清理違法違規(guī)信息70.8萬余條。

    執(zhí)法案例顯示，一批利用AI批量生成邏輯混亂、高度雷同低質內容的賬號被查處。例如，部分賬號利用AI生成傳播“數字泔水”等垃圾信息，干擾網絡生態(tài)。此外，另有賬號利用AI魔改經典名著，制作含有血腥、恐怖畫面的視頻并打上“兒童動畫”標簽，嚴重侵擾未成年人身心健康。

    廣州艾媒數聚信息咨詢股份有限公司CEO張毅在接受《證券日報》記者采訪時表示，AI內容安全的治理風暴，標志著內容行業(yè)粗放增長時代的終結。當平臺紛紛選擇向真實回歸，這不僅是對監(jiān)管壓力的回應，更是對內容本質的重新確認，技術應當是放大真人創(chuàng)造力的工具，而非替代真人存在的傀儡。

    “對于從業(yè)者而言，唯有放棄技術套利的幻想，深耕真實內容、真誠互動，才能在新的行業(yè)秩序中立足。而對于平臺，如何在人機協作時代重建數字信任體系，將是一場需要持續(xù)投入的持久戰(zhàn)。畢竟，當算法能夠完美模擬人類，真實本身就成了最稀缺的資源。”張毅進一步表示。

（編輯 才山丹）