4月27日，小紅書首次公布平臺(tái)對AI內(nèi)容的治理主張，并在北京舉辦首屆AI治理開放日。此次AI治理主張共分為“平臺(tái)鼓勵(lì)的AI內(nèi)容及行為”和“平臺(tái)反對的AI內(nèi)容及行為”兩大板塊，以給到創(chuàng)作者清晰指引。

小紅書明確了對待AI相關(guān)現(xiàn)象的核心態(tài)度：鼓勵(lì)A(yù)I作為創(chuàng)意放大器，反對AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器，所有AI參與創(chuàng)作的內(nèi)容均需主動(dòng)標(biāo)識。

鼓勵(lì)A(yù)I成為創(chuàng)作者的創(chuàng)意放大器

溝通會(huì)上，小紅書首次明確“平臺(tái)鼓勵(lì)什么”？核心指向一類內(nèi)容：創(chuàng)作者以AI為創(chuàng)意的放大器，生產(chǎn)出的有審美、有敘事、有真實(shí)信息增量的優(yōu)質(zhì)內(nèi)容。具體來說，小紅書歡迎創(chuàng)作者用AI做這幾件事：

一、是利用AI提升作品的信息價(jià)值，例如將復(fù)雜知識變得更具可視化的科普內(nèi)容，讓難懂的信息變得直觀易懂；

二、是利用AI創(chuàng)作有辨識度的虛擬角色，或?qū)σ延蠭P進(jìn)行有亮點(diǎn)的二次創(chuàng)作；

三、是借助AI進(jìn)行視覺創(chuàng)作，產(chǎn)出有審美、有敘事的好作品，包括藝術(shù)插畫、繪畫，以及具備劇情邏輯的電影感短片。

 

小紅書AI治理主張摘錄

 “發(fā)布AI治理主張不是為了限制創(chuàng)作，而是為了給創(chuàng)作者提供更清晰的方向?！?小紅書用戶信任中心負(fù)責(zé)人吉吉表示。

在小紅書鼓勵(lì)的方向上，也已經(jīng)有不少創(chuàng)作者探索出了有價(jià)值的AI創(chuàng)作路徑。央美國畫畢業(yè)生@一方畫貓呢 就是其中之一。她專攻宋代院體畫，一幅作品需要近一個(gè)月的精細(xì)打磨，但在AI出現(xiàn)之前，因?yàn)槿鄙賱?dòng)畫制作能力，這些靜態(tài)的精美畫作無法被更生動(dòng)地呈現(xiàn)，如今，AI幫她突破了“畫不能動(dòng)”的技術(shù)瓶頸。“當(dāng)我畫的小龍貓可以實(shí)現(xiàn)穿云而過的效果，一下子感覺來了一個(gè)動(dòng)畫團(tuán)隊(duì)?！币环皆陂_放日現(xiàn)場分享道。在她看來，AI是創(chuàng)作最后階段的視覺效果放大器，而畫面的原創(chuàng)性、核心想法和每一筆手繪，仍然由自己完成。

此外，AI治理主張再次強(qiáng)調(diào)了創(chuàng)作者應(yīng)對AI參與創(chuàng)作的內(nèi)容進(jìn)行主動(dòng)標(biāo)識，未進(jìn)行標(biāo)識的AI內(nèi)容，平臺(tái)將在識別后統(tǒng)一添加AI標(biāo)識貼條。

吉吉向雷峰網(wǎng)(公眾號：雷峰網(wǎng))表示：鼓勵(lì)A(yù)I標(biāo)識是為了保障用戶的知情權(quán)，非違規(guī)內(nèi)容，AI貼條不會(huì)影響流量。目前，小紅書已上線針對AI筆記貼條的申訴通道，創(chuàng)作者如果對AI貼條有異議，可通過該通道反饋。

其中，針對AI 治理與商業(yè)化之間的平衡問題，吉吉作出了進(jìn)一步闡釋。

首先，從AI內(nèi)容的識別標(biāo)準(zhǔn)上，平臺(tái)對商家和普通用戶采用的是統(tǒng)一的識別能力和審核標(biāo)準(zhǔn)；其次，為提升商家高效經(jīng)營，平臺(tái)面向商戶開放官方 AI 創(chuàng)作工具，致力于打造開放友好的營商生態(tài)。

而各類官方 AI 工具均設(shè)有完善的使用規(guī)范，且相關(guān)規(guī)則全面對標(biāo)社區(qū)生態(tài)治理要求。每一款新工具上線前，各業(yè)務(wù)部門都會(huì)充分溝通、深度協(xié)同、對齊標(biāo)準(zhǔn)，從源頭守住內(nèi)容合規(guī)底線。

堅(jiān)決反對破壞社區(qū)真實(shí)底色的AI行為

在明確“鼓勵(lì)的AI內(nèi)容”的同時(shí)，小紅書也梳理出了四類平臺(tái)反對的AI行為：利用AI違規(guī)運(yùn)營、利用AI造假、利用AI侵權(quán)，以及利用AI進(jìn)行低質(zhì)創(chuàng)作。

具體來說，平臺(tái)反對利用AI全自動(dòng)托管賬號、AI教唆做號等擾亂社區(qū)秩序的行為；反對AI造假行為，包括利用AI仿冒名人、虛構(gòu)人設(shè)、偽造個(gè)人經(jīng)歷、編造虛假信息，或是惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營銷；反對利用AI侵犯肖像權(quán)、著作權(quán)的行為；也反對利用AI批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫面，或是傳播不良價(jià)值觀等低質(zhì)創(chuàng)作行為。

 

 “小紅書社區(qū)是真實(shí)的人與人之間的連接。AI侵權(quán)、AI造假等行為破壞了社區(qū)真誠分享的基礎(chǔ)，也擠壓了真實(shí)創(chuàng)作者的空間?！?吉吉在分享中表示，平臺(tái)會(huì)根據(jù)違規(guī)程度采取梯度處理，包括限制曝光、警告、封禁等；對于明確由AI托管運(yùn)營、無真實(shí)人類參與的賬號，平臺(tái)將予以封禁。

據(jù)悉，今年以來，小紅書累計(jì)處置各類AI不良行為超百萬例，其中AI托管賬號超80萬個(gè)、AI造假筆記近15萬篇。

與此同時(shí)，小紅書在AI治理上持續(xù)加碼：1月19日發(fā)布《社區(qū)公約2.0》，明確反對虛假，鼓勵(lì)用戶對AI內(nèi)容進(jìn)行主動(dòng)標(biāo)識；2月12日發(fā)布加強(qiáng)自主標(biāo)記AI生成合成標(biāo)識的公告；3月10日發(fā)布打擊AI托管運(yùn)營賬號的治理公告；4月27日首次完整輸出AI治理主張，形成對創(chuàng)作者和用戶的完整指引。

對小紅書而言，此次AI治理主張的發(fā)布，既是社區(qū)“真誠分享”價(jià)值觀在AI時(shí)代的延續(xù)，也是和社區(qū)內(nèi)創(chuàng)作者們的一次有效溝通。當(dāng)越來越多平臺(tái)開始思考與AI的距離，內(nèi)容生態(tài)才有可能在技術(shù)進(jìn)步中守住“人”的價(jià)值。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。