近日，小紅書在北京舉辦了一場別開生面的AI治理開放日活動，首次全面闡述了平臺對于AI生成內容的治理策略。此次活動不僅為創作者提供了明確的創作方向，也彰顯了小紅書在維護社區真實性和原創性方面的堅定立場。
小紅書明確表示，將真實性與原創價值作為AI內容治理的核心標準。平臺鼓勵創作者將AI作為創意的放大器，而非造假工具或低質內容生產機。為此，所有由AI參與創作的內容都必須主動標識，以保障用戶的知情權。小紅書用戶信任中心負責人吉吉在活動中強調，發布AI治理主張并非為了限制創作，而是為了為創作者提供更清晰的指引，讓優質內容獲得更多公域流量的支持。
在鼓勵的方向上，小紅書歡迎創作者利用AI提升作品的信息價值，創作出更具可視化、更易懂的科普內容；也支持利用AI創作有辨識度的虛擬角色或對已有IP進行二次創作；同時，鼓勵借助AI進行視覺創作，產出有審美、有敘事的藝術作品，包括插畫、繪畫以及電影感短片等。
活動中，不少創作者分享了他們在AI創作方面的探索與成果。央美國畫畢業生@一方畫貓呢 就是其中的佼佼者。她專攻宋代院體畫，原本因缺乏動畫制作能力而無法將靜態畫作生動呈現。如今，AI幫她突破了這一技術瓶頸，讓畫面豐富度和可觀賞性大幅提升。她表示，AI是她創作最后階段的視覺效果放大器，而畫面的原創性、核心想法和每一筆手繪仍由自己完成。
除了鼓勵優質AI創作，小紅書也堅決反對任何破壞社區真實底色的AI行為。平臺梳理出了四類反對的AI行為，包括利用AI違規運營、造假、侵權以及進行低質創作。具體來說，平臺反對利用AI全自動托管賬號、教唆做號等擾亂社區秩序的行為；反對利用AI仿冒名人、虛構人設、偽造個人經歷或編造虛假信息等造假行為；反對利用AI侵犯肖像權、著作權的行為；也反對利用AI批量生產同質化內容或傳播不良價值觀等低質創作行為。
吉吉在活動中表示，小紅書社區是真實人與人之間的連接，AI侵權、造假等行為破壞了社區真誠分享的基礎，也擠壓了真實創作者的空間。平臺將根據違規程度采取梯度處理措施，包括限制曝光、警告、封禁等。對于明確由AI托管運營、無真實人類參與的賬號，平臺將予以封禁。據悉，今年以來，小紅書已累計處置各類AI不良行為超百萬例，其中AI托管賬號超80萬個、AI造假筆記近15萬篇。
AI科普創作者@大師的AI小灶 在活動中指出，在AI飛速發展的時代，普通人需要警惕AI幻覺、AI造假等風險。他強調，平臺對AI內容的系統治理是必要的，人的辨別意識和平臺規則需要同步跟上，以縮小這個時間差帶來的風險空間。
今年以來，小紅書在AI治理方面持續發力。從發布《社區公約2.0》明確反對虛假、鼓勵用戶對AI內容進行主動標識，到加強自主標記AI生成合成標識的公告；從打擊AI托管運營賬號的治理公告，到此次首次完整輸出AI治理主張，小紅書正逐步形成對創作者和用戶的完整指引。
