內(nèi)容平臺圍剿“AI托管”黑產(chǎn) 監(jiān)管與行業(yè)共筑真實性防線

    本報記者 袁傳璽

    3月10日，小紅書發(fā)布《關(guān)于打擊AI托管運營賬號的治理公告》，正式向利用技術(shù)手段模擬真人互動的“AI托管”黑產(chǎn)宣戰(zhàn)。公告顯示，近期，平臺發(fā)現(xiàn)部分用戶采用AI托管模式運營賬號，通過技術(shù)手段自動生成內(nèi)容、發(fā)布筆記，并在評論、私信、群聊等場景中模擬真人互動。

    小紅書方面強調(diào)，數(shù)以億計的用戶在小紅書平臺上分享自己的生活經(jīng)驗，每一次真實的記錄、每一次真誠的交流，共同構(gòu)成了社區(qū)溫暖的底色。因此，平臺嚴格禁止任何利用技術(shù)手段模擬真人、進行非真實內(nèi)容創(chuàng)作或虛假互動的行為。

    AI托管賬號遭嚴打

    事實上，此次治理并非無的放矢。近期，AI個人智能體火遍全網(wǎng)，人工智能已經(jīng)從“動口”進化為“動手”。在此背景下，有人用AI托管賬號自動生成筆記、發(fā)布內(nèi)容，甚至在評論區(qū)模擬真人互動，試圖以技術(shù)手段實現(xiàn)“躺著漲粉”“AI養(yǎng)號”的捷徑。

    而在商業(yè)利益的驅(qū)動下，AI托管已形成一條“起號—養(yǎng)號—轉(zhuǎn)賣/變現(xiàn)”的灰色產(chǎn)業(yè)鏈。運營者利用AI批量制造虛假熱度，待賬號積累一定粉絲量后，或直接轉(zhuǎn)賣牟利，或轉(zhuǎn)型帶貨、賣課收割韭菜。

    因此，內(nèi)容平臺加強AI托管賬號管理已勢在必行。具體來看，小紅書對于普通賬號偶發(fā)使用AI托管代寫、代發(fā)筆記或進行互動，平臺將根據(jù)違規(guī)程度，采取警告、限制內(nèi)容分發(fā)等梯度處理措施。同時，對于直接通過AI托管工具注冊、發(fā)布、互動的賬號，或主頁所有公開筆記均為AI托管代發(fā)的賬號，平臺將予以封禁處理。“呼吁用戶在創(chuàng)作過程中合理使用AI工具，堅持由真人分享真實經(jīng)歷與感受，共同守護社區(qū)的真實底色。”小紅書方面表示。

    有行業(yè)分析師對《證券日報》記者表示：“AI托管賬號產(chǎn)生的內(nèi)容對平臺生態(tài)的破壞是系統(tǒng)性的。首先，內(nèi)容質(zhì)量劣化。AI生成的數(shù)字泔水充斥平臺，同質(zhì)化、低質(zhì)化內(nèi)容擠占優(yōu)質(zhì)創(chuàng)作者流量空間。其次，當(dāng)用戶無法分辨屏幕背后是真人還是算法，當(dāng)真誠分享淪為技術(shù)表演，平臺賴以生存的社區(qū)氛圍將蕩然無存。最后，監(jiān)管風(fēng)險陡增。AI托管賬號常被用于傳播虛假信息、實施網(wǎng)絡(luò)詐騙、操縱輿論風(fēng)向，使平臺面臨巨大的合規(guī)壓力。”

    持續(xù)加強內(nèi)容生態(tài)管理

    小紅書的行動并非孤例。從抖音、微博到微信、百家號，各大主流平臺正以前所未有的力度圍剿低質(zhì)AI內(nèi)容。這場戰(zhàn)役的實質(zhì)，是內(nèi)容平臺在AIGC時代對真實性這一核心價值的艱難捍衛(wèi)，也是行業(yè)從流量狂歡向質(zhì)量深耕轉(zhuǎn)型的關(guān)鍵拐點。

    數(shù)據(jù)顯示，治理風(fēng)暴正在席卷全網(wǎng)。3月10日，抖音黑板報官方賬號發(fā)布內(nèi)容，今年以來，針對AI生成色情低俗類違規(guī)內(nèi)容，已處置4.2萬條內(nèi)容，對1.4萬個賬號處以限制推薦、禁言、封禁等不同梯度的處罰。

    在各大平臺全力治理AI內(nèi)容生態(tài)的背后，政策對AI內(nèi)容的合規(guī)要求日益剛性。隨著《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識辦法》等法規(guī)落地，平臺責(zé)任被進一步壓實。

    在春節(jié)期間，中央網(wǎng)信辦部署開展“清朗·2026年營造喜慶祥和春節(jié)網(wǎng)絡(luò)環(huán)境”專項行動明確要求，督促網(wǎng)站平臺集中整治惡意挑動負面情緒、借AI生成傳播“數(shù)字泔水”、炮制發(fā)布不實信息、為違法活動引流等問題，積極營造歡樂祥和的春節(jié)網(wǎng)上氛圍。截至目前，依法依約處置賬號3.9萬余個，清理違法違規(guī)信息70.8萬余條。

    執(zhí)法案例顯示，一批利用AI批量生成邏輯混亂、高度雷同低質(zhì)內(nèi)容的賬號被查處。例如，部分賬號利用AI生成傳播“數(shù)字泔水”等垃圾信息，干擾網(wǎng)絡(luò)生態(tài)。此外，另有賬號利用AI魔改經(jīng)典名著，制作含有血腥、恐怖畫面的視頻并打上“兒童動畫”標(biāo)簽，嚴重侵擾未成年人身心健康。

    廣州艾媒數(shù)聚信息咨詢股份有限公司CEO張毅在接受《證券日報》記者采訪時表示，AI內(nèi)容安全的治理風(fēng)暴，標(biāo)志著內(nèi)容行業(yè)粗放增長時代的終結(jié)。當(dāng)平臺紛紛選擇向真實回歸，這不僅是對監(jiān)管壓力的回應(yīng)，更是對內(nèi)容本質(zhì)的重新確認，技術(shù)應(yīng)當(dāng)是放大真人創(chuàng)造力的工具，而非替代真人存在的傀儡。

    “對于從業(yè)者而言，唯有放棄技術(shù)套利的幻想，深耕真實內(nèi)容、真誠互動，才能在新的行業(yè)秩序中立足。而對于平臺，如何在人機協(xié)作時代重建數(shù)字信任體系，將是一場需要持續(xù)投入的持久戰(zhàn)。畢竟，當(dāng)算法能夠完美模擬人類，真實本身就成了最稀缺的資源。”張毅進一步表示。

（編輯 才山丹）