如何審核UGC社區(qū)內(nèi)容
編輯導(dǎo)語(yǔ):短視頻風(fēng)行的時(shí)代,我們每天都在接收各種各樣的信息。一直以來(lái),碎片信息的參差不齊是一個(gè)值得重視的問(wèn)題,UGC社區(qū)的審核也就顯得非常重要。本文圍繞如何審核UGC社區(qū)內(nèi)容,為審核者提供了一些新思路。
UGC 社區(qū),是以用戶生產(chǎn)原創(chuàng)內(nèi)容為主的線上社區(qū),但由于用戶創(chuàng)作水平的不同,生產(chǎn)的內(nèi)容自然有優(yōu)劣之分,同時(shí),有人聚集的地方就會(huì)有商機(jī),自然有別有用心的人發(fā)廣告。所以,對(duì)用戶原創(chuàng)內(nèi)容的審核,無(wú)論是為了良好的用戶體驗(yàn)還是來(lái)自政府監(jiān)管的壓力,都是社區(qū)必須要做的事情。
從內(nèi)容流程「生產(chǎn) — 審核 — 加工 — 消費(fèi)」來(lái)看,當(dāng)內(nèi)容生產(chǎn)后,運(yùn)營(yíng)人員在后臺(tái)審核通過(guò)后,再做糾正錯(cuò)別字等加工,內(nèi)容才會(huì)呈現(xiàn)在榜單、推薦 Feed 流 等前端展示位。
在審核過(guò)程中,運(yùn)營(yíng)人員充當(dāng)「清潔工」和「淘寶客」,前者是做合規(guī)性審核,針對(duì)的是黃賭毒暴政恐,以及不符合社區(qū)業(yè)務(wù)的內(nèi)容;后者是做質(zhì)量審核,針對(duì)的是符合社區(qū)業(yè)務(wù)的內(nèi)容,做出三六九等的質(zhì)量評(píng)級(jí),然后給予對(duì)應(yīng)的曝光流量。
針對(duì)這兩種內(nèi)容性質(zhì)的審核,一般都是以分值進(jìn)行評(píng)判,比如針對(duì)不符合規(guī)性的內(nèi)容,分值是 0 – 50 分,一般是不給予流量(冷處理)或直接刪除;而針對(duì)質(zhì)量等級(jí)的內(nèi)容,分值是 60 – 100 分,且分?jǐn)?shù)越高,說(shuō)明內(nèi)容質(zhì)量越好,那么在前端就可以獲得多一點(diǎn)流量。
為了加快內(nèi)容審核,大公司都會(huì)開(kāi)發(fā)出反廣告的 antispam 系統(tǒng),特點(diǎn)是「機(jī)器為主,人工為輔」,運(yùn)營(yíng)人員提供違禁詞、敏感詞,然后系統(tǒng)在用戶發(fā)布內(nèi)容后,直接刪除觸及到違禁詞的內(nèi)容,將觸及敏感詞的內(nèi)容放置在待審核區(qū),交給運(yùn)營(yíng)人員審核。
但由于我之前所在的 UGC 社區(qū)處于探索期,后臺(tái)審核只支持內(nèi)容分類(lèi)打標(biāo)、設(shè)置內(nèi)容等級(jí)的分值、下架刪除內(nèi)容等基礎(chǔ)功能,再加上內(nèi)容量在 5000 條左右(帖子 500 條,評(píng)論量 4500 條),相對(duì)那些上百萬(wàn)級(jí)發(fā)布量的社區(qū)而言,這一點(diǎn)的內(nèi)容量還是比較少,于是我雇用幾名兼職,采用人工方式搭建審核體系。
PS:文末有這篇文章目錄的思維導(dǎo)圖,可以保存下來(lái),然后再閱讀~
一、合規(guī)性審核
我將不符合規(guī)性審核的內(nèi)容,都稱為廣告,一共有 7 條,比如:
1)黃賭毒暴政恐等違法亂紀(jì)內(nèi)容,特別是黑絲露腿截圖
2)個(gè)人收賣(mài),比如賣(mài)鞋、賣(mài)房、收游戲賬號(hào)
3)有損自家平臺(tái)的話語(yǔ),比如辱罵、詆毀
在這些定義中,最好是附上例子,讓兼職和其他同事可以快速明白,以便達(dá)成共識(shí)。
當(dāng)廣告的定義設(shè)定之后,就需要給兼職分配工作。由于在我之前負(fù)責(zé)的社區(qū)中,內(nèi)容主要有兩部分,一部分是帖子,即用戶發(fā)的動(dòng)態(tài),內(nèi)容的載體有圖文或視頻,但沒(méi)有直播形式;另一部分是評(píng)論,即用戶在帖子下的評(píng)論。在后臺(tái)系統(tǒng)中,帖子、帖子下的評(píng)論都是獨(dú)立顯示,也就是一個(gè)頁(yè)面顯示帖子列表,另外一個(gè)頁(yè)面顯示評(píng)論列表。如果要把兩者關(guān)聯(lián)起來(lái),那么必須要人工通過(guò)帖子 ID 進(jìn)行查詢。
基于此,我把兼職分為兩批,一批用來(lái)搭建帖子廣告處理體系,另外一批用來(lái)搭建評(píng)論廣告舉報(bào)體系,如下:
1. 帖子廣告
對(duì)于帖子廣告,只需要一個(gè)人一天總共花 80 分鐘,即可在后臺(tái)系統(tǒng)查完,所以我安排了一名兼職在后臺(tái)檢查,發(fā)現(xiàn)廣告的帖子,進(jìn)行如下操作:
1)一般情況下,兼職打上廣告標(biāo)簽進(jìn)行標(biāo)識(shí),然后運(yùn)營(yíng)人員每天下班前審查廣告標(biāo)簽的帖子,確定是廣告的帖子,就進(jìn)行冷處理(此時(shí)帖子會(huì)在前端隱藏),或直接刪除。
2)遇到嚴(yán)重的情況,特別是黃賭毒,或反復(fù)發(fā)帖辱罵平臺(tái),兼職需要即時(shí)私信運(yùn)營(yíng)人員,一般都是直接刪除。
2. 評(píng)論廣告
由于評(píng)論數(shù)量多,再加上不少人直接發(fā)廣告圖片,以至于運(yùn)營(yíng)人員在后臺(tái)查看時(shí),即使花白天的時(shí)間,也僅僅找到幾條。
所以,我換了一種思路,招募了 10 名兼職,專(zhuān)門(mén)在 APP 前端查看帖子,并且用馬甲號(hào)進(jìn)行評(píng)論,一旦遇到帶有廣告的評(píng)論,直接截圖并且圈出來(lái),分享到微信群,然后有額外一名兼職在后臺(tái)系統(tǒng)處理,即時(shí)反饋每個(gè)兼職的當(dāng)月累計(jì)舉報(bào)次數(shù)。一個(gè)月下來(lái),廣告的舉報(bào)總數(shù)可以高達(dá) 2000 條。
此外,還可以收集一些頻繁出現(xiàn)的廣告關(guān)鍵字,比如要的聯(lián)系、當(dāng)面交易,那么可以每天在后臺(tái)進(jìn)行搜索。以后做反廣告的 antispam 系統(tǒng)時(shí),這些廣告關(guān)鍵字可以直接派上用場(chǎng)。
多嘴一句,在發(fā)布量或評(píng)論量比較少的社區(qū),特別是處于探索期時(shí),不建議做 antispam 系統(tǒng),除了耗人力之外,還有一個(gè)重要原因就是,太多限制的關(guān)鍵字會(huì)導(dǎo)致社區(qū)的忠實(shí)用戶流失,比如大多數(shù)平臺(tái)將「微信」及其衍生詞「vx」等作為限制關(guān)鍵詞,只要用戶發(fā)表的言論帶有這些詞語(yǔ),輕則直接刪除,重則禁止用戶發(fā)言,這極大地打擊了用戶的熱情。
二、質(zhì)量審核
在質(zhì)量審核中,也會(huì)分為帖子和評(píng)論,主要是為了篩選出優(yōu)質(zhì)內(nèi)容,防止出現(xiàn)劣幣驅(qū)除良幣的不良現(xiàn)象。需要注意的是,由于兼職不了解業(yè)務(wù)、內(nèi)容網(wǎng)感差等因素,由運(yùn)營(yíng)人員全程參與,哪怕一天只能評(píng)級(jí) 20 條,那么也不會(huì)引入兼職做質(zhì)量審核。
1. 帖子質(zhì)量
考慮到我招募的 KOL 達(dá)人多半是職高學(xué)生,創(chuàng)作水平一般,我當(dāng)時(shí)將帖子質(zhì)量分為 A、B、C 三級(jí),C 要求為語(yǔ)句通暢、表達(dá)清晰,而 A、B 則要求懂得結(jié)構(gòu)化表達(dá),即總分總結(jié)構(gòu)。
在審核過(guò)程中,評(píng)為 A、B 兩級(jí)的帖子,分值設(shè)為 80 – 100 分,優(yōu)先在推薦頁(yè)第一屏幕顯示,而 C 級(jí)文章,分值在 60 分左右,將會(huì)在推薦頁(yè)第二屏幕顯示。
為了防止運(yùn)營(yíng)人員的強(qiáng)干預(yù)對(duì)內(nèi)容造成誤判,那么也會(huì)對(duì)每篇內(nèi)容做獨(dú)立的數(shù)據(jù)統(tǒng)計(jì),比如知乎會(huì)將知乎答主的每篇回答的閱讀量、互動(dòng)數(shù)進(jìn)行記錄,并且做成看板提供給創(chuàng)作者。
此外,并且我公司系統(tǒng)將 24 小時(shí)內(nèi)達(dá)到「閱讀率 10%,點(diǎn)贊人數(shù) 8」(閱讀率 = 閱讀人數(shù) / 曝光人數(shù))的帖子設(shè)置為優(yōu)質(zhì)帖子,自動(dòng)給予更多的流量。
對(duì)于優(yōu)質(zhì)帖子,運(yùn)營(yíng)人員還可以做以下的操作:
1)置頂
當(dāng)某篇帖子被運(yùn)營(yíng)人員設(shè)為置頂后,在 APP 前端會(huì)有置頂標(biāo)識(shí),和其他普通帖子做出一定的區(qū)分,并且用戶做下拉刷新不會(huì)改變其位置,比如今日頭條 APP 經(jīng)常會(huì)把官方的時(shí)政新聞置頂在推薦頁(yè)頂部。
2)設(shè)置精選內(nèi)容區(qū)
可以設(shè)立榜單、編輯精選區(qū)等產(chǎn)品功能,將優(yōu)質(zhì)的帖子放進(jìn)去。比如酷安每天都會(huì)將熱門(mén)的圖文、問(wèn)答等類(lèi)型的內(nèi)容放入編輯精選區(qū)。
3)制作《社區(qū)創(chuàng)作者指南》
對(duì)于優(yōu)質(zhì)的內(nèi)容,運(yùn)營(yíng)人員根據(jù)數(shù)據(jù)做簡(jiǎn)要分析,比如對(duì)于閱讀率高于 4% 的帖子,原因可能是標(biāo)題善于用「你」,讓讀者感到作者是和他對(duì)話,更為貼近人心,那么可以將這些心得整理到《社區(qū)創(chuàng)作者指南》,以指導(dǎo)社區(qū)的其他創(chuàng)作者。
這樣做可以極大激勵(lì)社區(qū)創(chuàng)作者的熱情,就好像上小學(xué)時(shí),老師會(huì)把學(xué)習(xí)成績(jī)優(yōu)秀的學(xué)生名字寫(xiě)在黑板上,鼓勵(lì)其他學(xué)生的向他看齊。
2. 評(píng)論質(zhì)量
對(duì)于評(píng)論,一般是按照點(diǎn)贊、時(shí)間等維度進(jìn)行算法排序,不需要運(yùn)營(yíng)太過(guò)于操心。
不過(guò)對(duì)于較為優(yōu)質(zhì)的評(píng)論,特別是神評(píng)論,一般是運(yùn)營(yíng)安排兼職用馬甲號(hào)進(jìn)行評(píng)論,俗稱埋雷,在后臺(tái)將該評(píng)論設(shè)置「加熱」,該評(píng)論將會(huì)在 APP 前端顯示在帖子的外面。此外,一般也可以使用程序算法進(jìn)行自動(dòng)設(shè)置,比如對(duì)每一條帖子,第一個(gè)評(píng)論超過(guò) 10 個(gè)點(diǎn)贊數(shù),則自動(dòng)設(shè)置為神評(píng)論。
但在埋雷時(shí),一定要記得換號(hào),防止出現(xiàn)「黃婆賣(mài)瓜,自賣(mài)自夸」的翻車(chē)現(xiàn)象,比如抖音不時(shí)有博主為了引發(fā)內(nèi)容消費(fèi)者多評(píng)論,故意在評(píng)論下夸自己的作品很好,但評(píng)論時(shí)卻忘記了切換到小號(hào)。
三、對(duì)違規(guī)用戶的處理
審核內(nèi)容不僅僅是審核內(nèi)容,還需要審核發(fā)內(nèi)容的人,畢竟內(nèi)容是由人發(fā)出來(lái)的。
我將用戶分為普通用戶、KOL、高危用戶。其中 KOL 是可以創(chuàng)作出高質(zhì)量帖子的用戶,高危用戶是時(shí)常違規(guī)的用戶,比如經(jīng)常廣告,而其余的都是普通用戶。
對(duì)于 KOL,一般都會(huì)愛(ài)惜自己的羽毛,不會(huì)輕易出現(xiàn)發(fā)廣告、辱罵他人等違紀(jì)行為,所以對(duì)于他的帖子或評(píng)論,審核時(shí)都會(huì)直接通過(guò),并且還會(huì)對(duì)他的帖子分配多一點(diǎn)流量。而對(duì)于他出現(xiàn)違規(guī)問(wèn)題,那么運(yùn)營(yíng)人員可以私信他,對(duì)他進(jìn)行警告提醒,如果情節(jié)嚴(yán)重或多次違反,那么可以對(duì)他進(jìn)行禁言,短則七天,長(zhǎng)則幾個(gè)月
但對(duì)于高危用戶,一般是注冊(cè)才幾天的新用戶居多,注冊(cè)后就會(huì)立即發(fā)廣告的帖子或評(píng)論。而這些用戶,一般是屢教不改,運(yùn)營(yíng)人員會(huì)把他拉進(jìn)黑名單,禁止他發(fā)帖子或評(píng)論,并且對(duì)他所有的帖子以及評(píng)論進(jìn)行刪除,封禁時(shí)間一般為幾個(gè)月。如果違規(guī)次數(shù)超過(guò) 3 次,那么會(huì)對(duì)其進(jìn)行永久封號(hào)。
在社區(qū)中,由于觀點(diǎn)各異,在評(píng)論區(qū)經(jīng)常會(huì)出現(xiàn)罵戰(zhàn),最后都會(huì)上升到人身攻擊。當(dāng)運(yùn)營(yíng)人員發(fā)現(xiàn)后,應(yīng)該封禁雙方當(dāng)事人的賬號(hào),即時(shí)刪除不好的評(píng)論,并且在在前端留下解禁的微信聯(lián)系方式,當(dāng)被封禁的用戶再次進(jìn)行發(fā)帖或評(píng)論,解禁的聯(lián)系方式就會(huì)被彈出來(lái),那么他可以添加微信,然后進(jìn)行申述。
此外,由于審核會(huì)出現(xiàn)疏忽,那么可以發(fā)揮群眾的力量。方式主要有兩種,如下:
1)產(chǎn)品實(shí)現(xiàn)舉報(bào)功能
比如知乎用戶可以舉報(bào)知乎回答或評(píng)論,然后知乎會(huì)在給出舉報(bào)的處理結(jié)果:已處置 or 未發(fā)現(xiàn)違規(guī)。
但這種方式是非常耗人力,比如在產(chǎn)品端實(shí)現(xiàn)流程化之后,還需要用客服或運(yùn)營(yíng)人員進(jìn)行核實(shí)。
2)私信官方號(hào)
一般存在私信功能的社區(qū),都會(huì)設(shè)置官方號(hào),用戶可以將要舉報(bào)的用戶或內(nèi)容,截圖或發(fā)鏈接給官方號(hào),寫(xiě)上舉報(bào)理由,然后交由官方號(hào)進(jìn)行處理。這種方式比較省人力,并且運(yùn)營(yíng)人員可以即時(shí)跟舉報(bào)者進(jìn)行實(shí)時(shí)溝通。
對(duì)于大公司如何審核內(nèi)容,感興趣的可以查看知乎 Alita 鄭瑜的文章:《UGC社區(qū)的內(nèi)容如何進(jìn)行審核和過(guò)濾?》
最后,這篇文章比較長(zhǎng),特意為你準(zhǔn)備了一張思維導(dǎo)圖,方便你閱讀。
作者:貓曉豆豆,社區(qū)運(yùn)營(yíng),會(huì)一點(diǎn)知識(shí)管理。微信公眾號(hào):貓曉豆豆。
本文由 @貓曉豆豆 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來(lái)自Unsplash,基于 CC0 協(xié)議。
感覺(jué)現(xiàn)在大一點(diǎn)的平臺(tái)在判斷內(nèi)容質(zhì)量的時(shí)候都不會(huì)人工審核or加精什么的了,請(qǐng)問(wèn)樓主知道他們是怎么給內(nèi)容質(zhì)量分級(jí)的么
你好,人工審核或加精是肯定有的,一般他們都是用機(jī)器先審,然后有爭(zhēng)議的留給人工審核,俗稱人工復(fù)檢
什么時(shí)候能出一篇關(guān)于如何從0到1構(gòu)建PGC社區(qū)
PGC社區(qū)跟UGC社區(qū)差不多,但PGC社區(qū)更簡(jiǎn)單一點(diǎn),因?yàn)閮?nèi)容生產(chǎn)源都是官方或合作機(jī)構(gòu),參考36Kr
但是大部分舉報(bào)都有點(diǎn)難真正落實(shí)到,像小紅書(shū)還好,但是微博,我舉報(bào)了不下50條,沒(méi)有一條是成功的…關(guān)鍵是我看了一下,確實(shí)都不是正常評(píng)論,但微博那里顯示的永遠(yuǎn)是待審核,可能用戶量太大了吧,這樣的社區(qū)做的雖然是成功的,但也很失敗
的確,其實(shí)廣告是最破壞社區(qū)的氛圍的。用戶舉報(bào)廣告,是不想這些廣告影響社區(qū)氛圍,但運(yùn)營(yíng)人員不處理,那么舉報(bào)者就會(huì)覺(jué)得運(yùn)營(yíng)人員不重視,也會(huì)覺(jué)得社區(qū)的氣質(zhì)與自己的氣質(zhì)不符(舉報(bào)次數(shù)多的話),那么就會(huì)離開(kāi)社區(qū)了。
其實(shí)UGC社區(qū)做的比較成功的有微博、豆瓣、貼吧、知乎。
是的,其實(shí)還有抖音、快手
文章不錯(cuò)!像是很簡(jiǎn)單的一篇操作手冊(cè),大致了解到如何進(jìn)行內(nèi)容審核,但是亂象問(wèn)題仍然沒(méi)能解決
你指的亂象問(wèn)題是什么呢
灌水帖怎么治理?
灌水貼處理,選擇的是內(nèi)容分?jǐn)?shù),以及封號(hào)。。。