4 月 27 日，小紅書發(fā)布首個(gè)完整的 AI 內(nèi)容治理規(guī)則，將真實(shí)性與原創(chuàng)價(jià)值確立為 AI 內(nèi)容治理的根本標(biāo)尺，明確鼓勵(lì) AI 作為創(chuàng)意放大器，并堅(jiān)決反對(duì) AI 作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器。
這一極具標(biāo)志性意義的聲明，可以說是對(duì)今年 3 月以來全民養(yǎng)龍蝦（OpenClaw 等 AI 智能體）試圖全自動(dòng)化運(yùn)營社交賬號(hào)狂熱的一次冷水澆頭。
UGC 明確邊界
要深刻理解小紅書此次出臺(tái)治理主張的急迫性與底層邏輯，必須將目光投向今年 3 月掀起的全民養(yǎng)龍蝦運(yùn)動(dòng)。
無數(shù)投機(jī)者與黑灰產(chǎn)從業(yè)者迅速嗅到商機(jī)，企圖利用 Agent 在小紅書等社交平臺(tái)上日均生成成千上萬篇以假亂真的圖文與視頻。
這刺痛了 UGC 平臺(tái)最核心的商業(yè)命脈——信任資本。
對(duì)于小紅書而言，其社區(qū)生態(tài)的本質(zhì)是一個(gè)建立在真人真實(shí)經(jīng)驗(yàn)基礎(chǔ)上的種草與決策模型。
用戶之所以愿意在平臺(tái)上被他人的內(nèi)容影響并最終產(chǎn)生消費(fèi)轉(zhuǎn)化，根本原因在于他們堅(jiān)信屏幕背后是一個(gè)活生生的人，有著真實(shí)的試錯(cuò)經(jīng)歷以及真實(shí)的消費(fèi)痛點(diǎn)。
一旦平臺(tái)防線失守，被大模型批量生成的虛假打卡、偽造評(píng)測(cè)所占據(jù)，劣幣驅(qū)逐良幣的效應(yīng)將瞬間摧毀用戶與平臺(tái)之間的信任，小紅書相比于傳統(tǒng)搜索引擎與電商平臺(tái)的獨(dú)特護(hù)城河也將蕩然無存。
正是基于這種關(guān)乎生死存亡的生態(tài)考量，小紅書在昨日的公告中首次完整、清晰地輸出了其對(duì) AI 的治理態(tài)度，且措辭極為嚴(yán)厲。
此次 AI 治理主張共分為 " 平臺(tái)鼓勵(lì)的 AI 內(nèi)容及行為 " 和 " 平臺(tái)反對(duì)的 AI 內(nèi)容及行為 " 兩大板塊。
在鼓勵(lì)方面，小紅書歡迎創(chuàng)作者用 AI 做這幾件事：
一是利用 AI 提升作品的信息價(jià)值，例如將復(fù)雜知識(shí)變得更具可視化的科普內(nèi)容，讓難懂的信息變得直觀易懂；
二是利用 AI 創(chuàng)作有辨識(shí)度的虛擬角色，或?qū)σ延?IP 進(jìn)行有亮點(diǎn)的二次創(chuàng)作；
三是借助 AI 進(jìn)行視覺創(chuàng)作，產(chǎn)出有審美、有敘事的好作品，包括藝術(shù)插畫、繪畫，以及具備劇情邏輯的電影感短片。
而在反對(duì)方面，小紅書反對(duì)利用 AI 全自動(dòng)托管賬號(hào)、AI 教唆做號(hào)等擾亂社區(qū)秩序的行為；反對(duì) AI 造假行為，包括利用 AI 仿冒名人、虛構(gòu)人設(shè)、偽造個(gè)人經(jīng)歷、編造虛假信息，或是惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營銷；反對(duì)利用 AI 侵犯肖像權(quán)、著作權(quán)的行為；也反對(duì)利用 AI 批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫面，或是傳播不良價(jià)值觀等低質(zhì)創(chuàng)作行為。
在具體的治理機(jī)制上，平臺(tái)采取了主動(dòng)聲明與系統(tǒng)強(qiáng)制打標(biāo)相結(jié)合的雙保險(xiǎn)制度。
創(chuàng)作者被要求必須對(duì) AI 參與的內(nèi)容進(jìn)行如實(shí)標(biāo)識(shí)，而對(duì)于試圖隱瞞的疑似內(nèi)容，平臺(tái)的檢測(cè)算法將在識(shí)別后強(qiáng)制添加不可篡改的 AI 貼條，并視違規(guī)程度施以限制分發(fā)甚至封號(hào)的頂格處罰。
今年以來，小紅書累計(jì)處置各類 AI 不良行為超百萬例，其中 AI 托管賬號(hào)超 80 萬個(gè)、AI 造假筆記近 15 萬篇。
同樣是 UGC 平臺(tái)，微信公眾號(hào)在 3 月 27 日新增條款明確將脫離真人表達(dá)的 AI 生成、腳本托管批量發(fā)布、傳播自動(dòng)化創(chuàng)作教程列為違規(guī)，深度打擊的是 " 賬號(hào)工廠 " 式的內(nèi)容套利。
直接導(dǎo)火索是 " 夫妻靠 AI 寫公眾號(hào)年入 200 萬 " 刷屏事件，經(jīng)核實(shí)大部分收入來自 299 元課程費(fèi)而非平臺(tái)流量，涉事賬號(hào)隨后被永久封禁。
還有深層挑戰(zhàn)
隨著底層大模型能力的持續(xù)躍升，無論是明確邊界的 UGC，還是試圖用 AI 來降本增效的 PGC（專業(yè)內(nèi)容）平臺(tái)，都遠(yuǎn)未到高枕無憂的時(shí)刻。在狂歡之下，全行業(yè)正面臨著 AI 帶來的大考。
首先是治理層面的 " 魔高一尺與道高一丈 "，平臺(tái)在治理的同時(shí)，AI 技術(shù)也在進(jìn)步。
對(duì)于小紅書等平臺(tái)而言，規(guī)則的制定只是第一步，真正的考驗(yàn)在于落地執(zhí)行的成本與準(zhǔn)確率。
當(dāng)前的開源智能體與模型在擬人化表達(dá)上已極其逼真。平臺(tái)的 "AI 檢測(cè)算法 " 與黑灰產(chǎn)的 "AI 偽裝技術(shù) " 將陷入長期的軍備競賽。誤判導(dǎo)致真人博主被限流，或漏判導(dǎo)致虛假種草泛濫，都會(huì)引發(fā)巨大的輿情危機(jī)與社區(qū)信任透支。
當(dāng)模型在光影處理、微表情模擬甚至是邏輯瑕疵的刻意制造上越來越接近人類的自然表達(dá)時(shí)，平臺(tái)的 AI 檢測(cè)算法與黑灰產(chǎn)的偽裝技術(shù)將陷入無休止的貓鼠游戲。
在商業(yè)層面，內(nèi)容通縮與審美疲勞也是 AI 被引入后的新問題。
雖然 AI 解決了量與本的問題，卻帶來了質(zhì)的隱患。
大模型基于概率統(tǒng)計(jì)生成內(nèi)容的本質(zhì)，決定了其產(chǎn)出天然帶有套路化傾向，進(jìn)而讓平臺(tái)充滿了同質(zhì)的內(nèi)容。
一位 AI 科普博主介紹，這可能陷入所謂的 " 模型塌陷 "，即當(dāng)模型反復(fù)使用低質(zhì)量、低多樣性、相互污染的數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，生成能力會(huì)逐步退化，最終陷入單一、重復(fù)、失真的狀態(tài)。
另外，不論是 PGC 還是 UGC 平臺(tái)，AI 使用也帶來了倫理層面的 " 數(shù)字剝削 " 與版權(quán)灰區(qū)。這或許是全行業(yè)最難啃的骨頭。
比如 AI 短劇繁榮的背后，可能帶來傳統(tǒng)初級(jí)編劇、畫師、配音員等崗位的結(jié)構(gòu)性失業(yè)。同時(shí)，大模型的訓(xùn)練不可避免地吸納了無數(shù) UGC 平臺(tái)上的原創(chuàng)心血。當(dāng)一個(gè)由 AI 生成的短劇爆紅，其收益該如何向被投喂數(shù)據(jù)的原創(chuàng)者分配？在當(dāng)前的法律與平臺(tái)規(guī)則框架下，這依然是一片布滿地雷的灰度地帶。
技術(shù)從來都是中立的放大器，它最終放大的是平臺(tái)的基因。UGC 向左，還在追求真實(shí)感與人際信任；PGC 向右，追逐極致的效率與多巴胺。在這場深遠(yuǎn)的產(chǎn)業(yè)重塑中，沒有絕對(duì)正確的路徑，只有對(duì)自身商業(yè)本質(zhì)的最深切叩問。
更大的考驗(yàn)還在持續(xù)到來，當(dāng) AI 生成內(nèi)容在技術(shù)上越來越難以與人類創(chuàng)作區(qū)分，平臺(tái)如何在 " 鼓勵(lì)創(chuàng)新 " 與 " 防范風(fēng)險(xiǎn) " 之間持續(xù)拿捏分寸？這個(gè)問題，還需要進(jìn)一步探索。
