TK難民涌入小紅書,深度分析如何進(jìn)行內(nèi)容風(fēng)控

0 評論 5742 瀏覽 13 收藏 22 分鐘

昨天小紅書首頁被不少外國友人占領(lǐng),大家也開始紛紛進(jìn)行友好的民間交流。也有不少平臺和作者都在寫文分析,但都是從用戶、行業(yè)的角度。如果是從產(chǎn)品——小紅書的角度,該怎么做?這篇文章,我們看看作者怎么說。

小紅書迎來潑天富貴,在 TikTok 封禁令即將生效的前夕,大量美國人涌入小紅書,使得小紅書在昨天成功登頂 美區(qū) App Store 。要知道,在這之前,小紅書從未進(jìn)行海外運(yùn)營,在這之前壓根兒沒有下載排名。

于是,從昨天開始,小紅書的首頁就變成了這樣:

沒想到國際互聯(lián)網(wǎng)在小紅書里實(shí)現(xiàn)了,學(xué)英語這個事兒,有語境確實(shí)挺重要的,我之前一直在學(xué)abandon,現(xiàn)在至少已經(jīng)學(xué)到 refugee 了。

但,大家都不約而同地想到一個問題——涌入大量美國用戶,小紅書如何進(jìn)行內(nèi)容風(fēng)控和審核,以及,小紅書是否就要從此被墻?

作為一名產(chǎn)品經(jīng)理,我認(rèn)為有必要從產(chǎn)品角度和商業(yè)角度,來深度分析一下,內(nèi)容社區(qū)產(chǎn)品在內(nèi)容風(fēng)控上的一些要點(diǎn)。我們將從事件原因的角度,具體分析小紅書的實(shí)際情況,然后通過總結(jié)「內(nèi)容風(fēng)控策略」的核心要點(diǎn),來預(yù)測小紅書面對大量外來內(nèi)容的情況下,應(yīng)當(dāng)如何進(jìn)行內(nèi)容風(fēng)控。

目錄

01 為什么是小紅書

02 內(nèi)容風(fēng)控的核心要點(diǎn)是什么

03 預(yù)測一手,小紅書會如何收場

01 為什么是小紅書?

為什么美國用戶,沒有涌入更像 TikTok 的抖音,或者進(jìn)入美國本土的ins、Facebook,而是涌向了小紅書?

主要是4個原因:

  1. 小紅書不分區(qū),小紅書在最早期的階段,本身就是個海淘應(yīng)用,大量中國留學(xué)生用戶,在海外使用小紅書,所以在各國的應(yīng)用市場,都能夠方便地下載中文版小紅書,而且所有用戶都在一起,沒有進(jìn)行國家間的隔離。
  2. 抖音雖然更相似,但是抖音的用戶注冊門檻,隔絕了外國用戶的使用。首先,抖音本身沒有上架美區(qū)App Store,美國用戶想要下載抖音,需要先翻進(jìn)來搞一個國區(qū)Apple賬號,其次,抖音在注冊階段采用的策略是,支持非+86的國外手機(jī)號注冊,但注冊完成后,必須進(jìn)行實(shí)名認(rèn)證,而實(shí)名認(rèn)證的方式,只有身份證……
  3. 小紅書剛剛進(jìn)行改版,社區(qū)氛圍非常接近 ins 的內(nèi)容,加上剛剛改版、完全符合上下滑動操作習(xí)慣的第二個Tab “熱門”,都讓 TikTok 用戶能夠比較輕松地進(jìn)行遷移和適應(yīng)。
  4. 沒有大量進(jìn)入美國本土的ins、Facebook的原因是, TikTok 用戶本身對于 TikTok 被封禁非常不滿,因此對美國應(yīng)用都產(chǎn)生了強(qiáng)烈的逆反心態(tài),在 TikTok 大V的號召下,選擇直接進(jìn)入中國軟件,徹底擺脫美國政府的管轄范圍。

所以,大量 TikTok 用戶涌入,就會產(chǎn)生大量內(nèi)容,小紅書的內(nèi)容風(fēng)控,面臨著巨大的挑戰(zhàn)。

小紅書又應(yīng)當(dāng)如何處理這些國外用戶,封還是不封?

02 內(nèi)容風(fēng)控的核心要點(diǎn)是什么?

一個內(nèi)容社區(qū)的用戶角色,大致可分為內(nèi)容生產(chǎn)者(創(chuàng)作型用戶)和內(nèi)容消費(fèi)者(瀏覽型用戶),既有內(nèi)容的生產(chǎn)創(chuàng)作,又有觀眾能夠消化掉創(chuàng)作產(chǎn)能,形成良好的社區(qū)內(nèi)容生態(tài)。

對于一款產(chǎn)品,從風(fēng)控角度來抽象,其基本業(yè)務(wù)框架的模型可以總結(jié)為“業(yè)務(wù)”、輔助業(yè)務(wù)的“增長”、保障業(yè)務(wù)的“風(fēng)控”和支撐以上三點(diǎn)的“數(shù)據(jù)”。

“業(yè)務(wù)”自然是產(chǎn)品最關(guān)鍵的地方,“增長”“風(fēng)控”和“數(shù)據(jù)”都是輔助業(yè)務(wù)良態(tài)運(yùn)行。對小紅書的內(nèi)容業(yè)務(wù)來說,協(xié)調(diào)內(nèi)容生產(chǎn)者和內(nèi)容消費(fèi)者,形成良好的內(nèi)容生態(tài),是最關(guān)鍵的核心,輔以用戶增長(包括用戶增長和創(chuàng)作者增長兩個方面),并且對社區(qū)進(jìn)行風(fēng)控。

通過業(yè)務(wù)的發(fā)展和增長、風(fēng)控的積累,形成用戶基礎(chǔ)數(shù)據(jù)、注冊信息、瀏覽行為、視覺偏好、用戶標(biāo)簽等數(shù)據(jù),然后通過這些數(shù)據(jù),再反向支撐業(yè)務(wù)發(fā)展,形成產(chǎn)品內(nèi)的數(shù)據(jù)打通。

那今天我們著重分析的,就是風(fēng)控這一環(huán)節(jié)。金融產(chǎn)品、信貸產(chǎn)品有風(fēng)控非常好理解,但其實(shí),所有類型的產(chǎn)品都需要有風(fēng)控。電商產(chǎn)品要防薅羊毛,社交產(chǎn)品要防欺詐,而內(nèi)容產(chǎn)品,則是要對平臺內(nèi)容的質(zhì)量和合規(guī)性進(jìn)行風(fēng)險(xiǎn)控制。

對于內(nèi)容社區(qū)等UGC產(chǎn)品來說,風(fēng)控線就是生死線。內(nèi)容和社區(qū)產(chǎn)品的風(fēng)控壓力來源于監(jiān)管側(cè),風(fēng)控對象是用戶在平臺發(fā)布的內(nèi)容。

1. 內(nèi)容風(fēng)控要“控”什么?

來自內(nèi)容側(cè)的風(fēng)險(xiǎn)主要有三類。

其一是政策層面的內(nèi)容合規(guī),要符合監(jiān)管的要求。監(jiān)管要求的內(nèi)容可參考最新實(shí)行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,對于各項(xiàng)違規(guī)內(nèi)容都做了詳細(xì)規(guī)定,大致概括可分為涉政、違禁、暴恐、色情等四類,這部分是政策紅線,一旦觸及,輕則約談,重則下架、封禁。

其二是社區(qū)氛圍的良性導(dǎo)向,如謾罵、隱私等。這一類型的內(nèi)容雖然不會觸及監(jiān)管紅線,但倘若內(nèi)容社區(qū)充斥各種負(fù)能量,對于社區(qū)氛圍是非常嚴(yán)重的損害,傷及用戶體驗(yàn),導(dǎo)致用戶流失,影響產(chǎn)品商業(yè)利益。這一類型內(nèi)容風(fēng)控還包括對于產(chǎn)品運(yùn)營主體的保護(hù),例如對吐槽公司工作人員的內(nèi)容進(jìn)行限流處理、對平臺和產(chǎn)品的詛咒進(jìn)行刪除等,屬于商譽(yù)和公關(guān)層面的維護(hù),同時也是對產(chǎn)品官方公信力的維護(hù)。

其三是社區(qū)用戶安全的保證。對于內(nèi)容和社區(qū)產(chǎn)品而言,平臺內(nèi)一定會存在導(dǎo)流、灰產(chǎn)、詐騙等不法手段,如何保護(hù)平臺內(nèi)用戶的財(cái)產(chǎn)安全和產(chǎn)品體驗(yàn),是非常關(guān)鍵的,互聯(lián)網(wǎng)發(fā)展至今,導(dǎo)流、詐騙等行為往往是成熟的灰黑產(chǎn)產(chǎn)業(yè)鏈所為,他們擁有豐富的反監(jiān)查和防過濾經(jīng)驗(yàn),揪出他們并進(jìn)行處理,需要平臺與其斗智斗勇。

2. 內(nèi)容風(fēng)控的方法和手段

在最最早期的階段,對內(nèi)容進(jìn)行風(fēng)險(xiǎn)控制,只能通過編輯人工進(jìn)行審核。這種方式需要大量的人力物力,而且稿件審核需要時間長,時效性也被大大削弱。一般的公司,很難負(fù)擔(dān)起龐大的內(nèi)容審核團(tuán)隊(duì)。

之后,誕生了關(guān)鍵詞過濾等手段,成為成本較低,并且使用最為廣泛的內(nèi)容風(fēng)控措施。對于命中預(yù)設(shè)的違禁關(guān)鍵詞的內(nèi)容,直接阻止發(fā)出或者轉(zhuǎn)交人工審核。這種方式性價(jià)比極高,耗費(fèi)成本小,但基本可以過濾掉大多數(shù)的違規(guī)內(nèi)容。

關(guān)鍵詞過濾存在的問題也很明顯,準(zhǔn)確率較低,經(jīng)常出現(xiàn)誤傷和漏網(wǎng)的情況,對于內(nèi)容和社區(qū)平臺來說,這是不能容忍的,前文已經(jīng)講過,哪怕一篇違規(guī)內(nèi)容被放出來,產(chǎn)品都有可能被封禁,內(nèi)容風(fēng)控是一件“寧可錯殺一百,不能放過一個”的事情。再加上網(wǎng)絡(luò)的普及,越來越多的人學(xué)會了通過拼音、亂碼、諧音等方式繞開關(guān)鍵詞,關(guān)鍵詞過濾逐漸不再能勝任內(nèi)容風(fēng)控的工作任務(wù)。

以上基本還屬于規(guī)則的范疇,之后內(nèi)容風(fēng)控的發(fā)展,就進(jìn)入了AI+策略的時代。

內(nèi)容風(fēng)控方面的AI,其實(shí)叫機(jī)器學(xué)習(xí)更加準(zhǔn)確,這是一套組合拳。舉個例子,對于一個視頻稿件的審核,就需要對整個視頻進(jìn)行逐一拆幀,然后通過OCR文字識別檢查字幕,此時對于字幕的檢查和文字內(nèi)容的檢查基本一致,文字識別涉及到NLP分詞、語義理解等AI技術(shù);對于畫面,則是圖片識別,識別圖片中可能出現(xiàn)的違禁內(nèi)容,這里涉及到一個準(zhǔn)確率的問題,暴恐視頻不能夠通過,但游戲視頻也存在戰(zhàn)斗畫面,如何保證不誤傷;對于音頻,則需要兩個方面的審查,一方面是視頻當(dāng)中的語句,將語音轉(zhuǎn)文本,再通過文字的審核策略來審核,另一方面是音調(diào)識別,例如識別音頻當(dāng)中的嬌喘等無語句的聲音。

這些在內(nèi)容風(fēng)控方面應(yīng)用的AI技術(shù),其實(shí)遠(yuǎn)遠(yuǎn)早于最近這幾年的大模型AI技術(shù),在內(nèi)容風(fēng)控上的AI應(yīng)用,目前已經(jīng)是非常成熟且完善的生態(tài)。

機(jī)器學(xué)習(xí)本身還是就稿件論稿件,而一個優(yōu)秀的內(nèi)容風(fēng)控平臺,是需要配合策略的。策略產(chǎn)品經(jīng)理是近幾年一個特別火的崗位,提供更精細(xì)化的、動態(tài)的、效率的產(chǎn)品解決方案。對于策略來說,內(nèi)容的風(fēng)控不能只在單個內(nèi)容上,還需要結(jié)合更高的維度,給予更加精細(xì)化的識別判斷。策略要從單個內(nèi)容出發(fā),延伸到發(fā)布該內(nèi)容的用戶基礎(chǔ)信息、關(guān)系鏈、過往內(nèi)容、實(shí)名可信度等等諸多維度進(jìn)行調(diào)參和計(jì)算,以判斷這名用戶的這條內(nèi)容是否需要更細(xì)致的識別。

這里要特別強(qiáng)調(diào)一點(diǎn),即使平臺的機(jī)器算法再先進(jìn),所有的內(nèi)容還都需要過人審核。所有內(nèi)容過人,所有內(nèi)容過人,所有內(nèi)容過人,重要的事情說三遍,至于原因,還是上面那一條,內(nèi)容和社區(qū)平臺不容有半點(diǎn)閃失。

不過機(jī)器審核越先進(jìn),能夠?yàn)槿斯徍颂峁┑妮o助也就越全面準(zhǔn)確,人工審核的效率自然也就變高,審核人員的壓力也相應(yīng)減弱。

另外,對于內(nèi)容風(fēng)控,又會有前置風(fēng)控(先審后發(fā))和后置風(fēng)控(先發(fā)后審)等不同的方式,所以在小紅書等平臺,有的內(nèi)容剛發(fā)就被風(fēng)控限流,有的內(nèi)容則是剛發(fā)正常、閱讀量達(dá)到一定程度后,突然就被斃了,這就是前置風(fēng)控和后置風(fēng)控的策略產(chǎn)生作用。關(guān)于這一點(diǎn),以后有機(jī)會再詳細(xì)分析優(yōu)劣和適用場景。

對于小紅書來說,隨著內(nèi)容量越來越大,如果只是單純地對審核人工進(jìn)行擴(kuò)容,恐難以解決問題,一定會更多的由技術(shù)和機(jī)器進(jìn)行介入。此次涌入大量外文內(nèi)容,囿于審核中心本身都是中文母語的審核員工,也勢必更加依賴AI對于英文內(nèi)容的處理和識別。

03 預(yù)測一手,如何收場?

對于小紅書來說,對于此次大量美區(qū) TikTok 用戶涌入,的確不是一件那么“幸?!钡氖虑椋吘?,小紅書的目前的整體戰(zhàn)略并未有太多國際化的考量,產(chǎn)品技術(shù)上,也并沒有做好全球化的準(zhǔn)備。

所以對于小紅書的高層來說,此次大量美國用戶帶來的煩惱,恐怕要比喜悅多得多。在這種情況下,小紅書應(yīng)該采取怎樣的應(yīng)對策略,才能比較適宜當(dāng)前的情況和現(xiàn)狀?

我們先窮舉一下小紅書所有能走的路。我預(yù)測,小紅書大概率會走向第4條路和第5條路的融合版。

1. 放任不管,保持現(xiàn)有產(chǎn)品策略,中美用戶自由交流,暢游國際互聯(lián)網(wǎng)。

這條路徑顯然不存在,基于當(dāng)前國情和中美兩國的立場,完全不做干涉,這不僅不是所謂“自由”,反而會適得其反,嚴(yán)重?fù)p害社區(qū)用戶的氛圍和利益,同時也會引發(fā)監(jiān)管上的關(guān)注。絕對意義上的自由不是自由,有限的自由才是真正自由,有規(guī)則有法治才能享有自由。

2. 學(xué)習(xí)抖音,通過注冊手機(jī)號和實(shí)名認(rèn)證,將國外用戶拒之門外。

在這次 TikTok 關(guān)停風(fēng)波中,美國用戶之所以沒有涌入和 TikTok 相似程度更高的抖音,就是因?yàn)槎兑舻挠脩糇蚤T檻,隔絕了外國用戶的使用。抖音采用的策略是,支持非+86的國外手機(jī)號注冊,但注冊完成后,必須進(jìn)行實(shí)名認(rèn)證,而實(shí)名認(rèn)證的方式,只有身份證……

美國人民沒有身份證,自然無法正常注冊使用抖音,只能刷一刷未登錄狀態(tài)下首頁的視頻,做一個純純的內(nèi)容消費(fèi)者(瀏覽型用戶)。

而小紅書的用戶群體,因?yàn)楦蛑挟a(chǎn)和精致人群,所以有相當(dāng)一部分用戶,是海外留學(xué)生,甚至小紅書在最早期的階段,本身就是個海淘應(yīng)用,所以如果直接一刀切,對于小紅書本身的用戶來說,影響是非常大的。

并且小紅書并沒有像抖音一樣,通過不同的產(chǎn)品進(jìn)行用戶分區(qū),以前抖音只做國內(nèi),國外有 TikTok ,所以抖音一刀切沒有任何問題。小紅書只有一個主產(chǎn)品,需要兼容國內(nèi)用戶和人在海外的用戶(注意,是人在海外的用戶,而非海外用戶,這里有本質(zhì)的區(qū)別)。

所以在注冊階段一刀切,對于產(chǎn)品和生態(tài)來說,我認(rèn)為這不是一個好的解決方案。當(dāng)問題出現(xiàn)的時候,解決提出問題的人,這種行為,確實(shí)不太高明。

3. 考慮物理分區(qū),借此契機(jī)推出國際版,開啟國際化征程。

這可能是個方法,但在現(xiàn)在并不現(xiàn)實(shí)。對于一家大公司來說,因?yàn)橐淮吻珊?,就改變公司?zhàn)略,這并不明智,大概率最終既撿不到芝麻,又丟了西瓜。而且國際版開發(fā)也是需要時間的,等產(chǎn)品做出來,熱度也早就過去了。

4. 在當(dāng)前用戶混雜的情況下,加強(qiáng)內(nèi)容審核風(fēng)控,把控好水龍頭的出水口。

前文提到,對于內(nèi)容平臺來說,風(fēng)控的主要對象,是內(nèi)容生產(chǎn)者(創(chuàng)作型用戶),包括筆記內(nèi)容發(fā)布、評論內(nèi)容發(fā)布、頭像昵稱等,只要內(nèi)容發(fā)布的口子審核過關(guān),即使平臺內(nèi)有美國用戶,也不會影響如今已經(jīng)有3億月活基本盤的小紅書。

有人用國內(nèi)不能使用 Facebook 和 ins 來類比,認(rèn)為國內(nèi)用戶不能與國外用戶共用使用一個社區(qū)產(chǎn)品,但我認(rèn)為這有本質(zhì)區(qū)別,外國人在中國的地盤,和中國人在外國的地盤,這是完全不同的兩種邏輯。

小紅書公司在國內(nèi)、審核在國內(nèi)、數(shù)據(jù)在國內(nèi)、風(fēng)控規(guī)則在國內(nèi),甚至公司黨委下,已經(jīng)有4個黨支部,在這樣的情況下,外國用戶使用中國產(chǎn)品,只要風(fēng)控到位,無論是在內(nèi)容層面還是國家安全層面,都是比較容易掌控的。

從另一個角度講,國際化在未來是一個趨勢,如何讓中國科技和中國產(chǎn)品走向世界,我們還在進(jìn)行各種探索,TikTok 的國際隔離路線是一種探索,也許小紅書的社區(qū)融合路線,也是一次寶貴的探索,某種程度上,秉承文化的自信,這也是中國文化向世界展示的絕佳窗口,也是展現(xiàn)真實(shí)中國、讓國際上抹黑中國言論不攻自破的機(jī)會。

5. 算法分區(qū),建設(shè)虛擬的“軟墻”,產(chǎn)品上生態(tài)融合,客觀上用戶軟隔離。

推薦算法下的用戶社區(qū),其實(shí)本身就是一個又一個繭房,不同興趣的用戶,看到的內(nèi)容本身就已經(jīng)被隔離,“看不見的墻”一直都存在,甚至小紅書的繭房比抖音要更嚴(yán)密,這一點(diǎn),我們體感上就有感知,在小紅書上很難刷到其他圈層的內(nèi)容。

當(dāng)前之所以會出現(xiàn)大量美國人攻占首頁的情況,一方面是事發(fā)突然,算法也需要一點(diǎn)時間進(jìn)行調(diào)教,另一方面是國內(nèi)用戶也都圖新鮮,客觀上增加了國外博主的熱度。

所以現(xiàn)在大量外國用戶進(jìn)入后,只需要加強(qiáng)內(nèi)容風(fēng)控,在把好發(fā)布關(guān)的基礎(chǔ)上,進(jìn)而在算法上進(jìn)行區(qū)隔,以后美國人只和美國人玩兒,國內(nèi)興趣圈層只和同圈層的玩兒,非常妙哉。不同圈層偶爾能串個門兒,但也不會掀起什么大浪。

這種策略,對于小紅書的好處很明顯:

第一,算法推薦策略的調(diào)整,主要是后臺策略的調(diào)整,不影響前端App的功能流程,甚至不需要發(fā)版更新;

第二,不影響小紅書整體業(yè)務(wù)戰(zhàn)略,既定的業(yè)務(wù)框架繼續(xù)進(jìn)行;

第三,數(shù)據(jù)上享受到了國外用戶增長的機(jī)遇,用戶新增表現(xiàn)佳;

第四,兼顧到國內(nèi)監(jiān)管的要求;

第五,為未來的國際化留下種子。

算法分區(qū)后,對于用戶來說,一切又回歸平靜,首頁上的推薦依然是本來該有的內(nèi)容,只是在用戶看不見的角落,又多了幾個新的繭房,繭房里的人也在繭房中勞作,以為那就是全部的世界。

列舉出小紅書可行的路徑后就發(fā)現(xiàn),在充分考慮成本、利益和監(jiān)管要求的背景下,采用第四種和第五種同步進(jìn)行的方式,是小紅書最有概率采用的方案。

無論小紅書最后采用何種方案,其實(shí)都并不影響內(nèi)容風(fēng)控的基礎(chǔ)原理,對于商業(yè)平臺來說,能否做好風(fēng)控,往往決定著平臺能走多遠(yuǎn)。在本文中,我一直強(qiáng)調(diào)的是“內(nèi)容風(fēng)控”而非“內(nèi)容審核”,審核只是風(fēng)控的一個環(huán)節(jié),而非全部,審核也不是目的,將平臺的結(jié)構(gòu)性風(fēng)險(xiǎn)降到最低,才是目的。

拭目以待,小紅書此次的選擇,很大程度上,也將影響中國產(chǎn)品出海的路徑探索方向。

作者:亨哼;公眾號:產(chǎn)品變量(ID:hengpaper)

本文由 @亨哼 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自 Unsplash,基于 CC0 協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!