国外亚洲成av人片在线观看,热99re久久精品这里都是精品,天堂网在线最新版www,国产成人av区一区二区三,51久久成人国产精品麻豆

大部分產(chǎn)品的審核機制和方式相對簡單粗暴，對于“誤發(fā)敏感內(nèi)容”的用戶而言十分不友好，甚至有推卸責(zé)任的“嫌疑”。本文就來思考一下反垃圾策略下的體驗優(yōu)化可以怎么做呢？

無論任何形式的互聯(lián)網(wǎng)產(chǎn)品，用戶發(fā)布內(nèi)容的時候，都逃不過一層屏障——內(nèi)容審核。

內(nèi)容審核是產(chǎn)品反垃圾策略下的產(chǎn)物，是對產(chǎn)品內(nèi)容的風(fēng)險把控，減少產(chǎn)品中出現(xiàn)的“垃圾”信息，凈化網(wǎng)絡(luò)生態(tài)環(huán)境。

這種措施對于大環(huán)境而言是必須的，但是大部分產(chǎn)品的審核機制和方式相對簡單粗暴，對于“誤發(fā)敏感內(nèi)容”的用戶而言十分不友好，甚至有推卸責(zé)任的“嫌疑”。

那么接下來就可以一起思考一下，反垃圾策略下的體驗優(yōu)化可以怎么做呢？

01 概念解讀與背景分析

反垃圾策略，實際上就是對網(wǎng)絡(luò)生產(chǎn)內(nèi)容進(jìn)行審核，識別、刪除不符合《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》的文字、音頻、視頻等內(nèi)容。

內(nèi)容審核方式目前通用的是AI+人工審核的方式，具體的解決方案不盡相同。AI通過將用戶內(nèi)容與敏感詞庫中的關(guān)鍵詞進(jìn)行比對后進(jìn)行識別、剔除或者禁止操作；AI可以識別絕大部分內(nèi)容，提升審核整體的效率；但是對于視頻內(nèi)容等機器未學(xué)習(xí)到的內(nèi)容，仍需要人工審核去把控，或者對用戶的申訴內(nèi)容進(jìn)行人工干預(yù)和處理。

目前內(nèi)容審核解決方案也很多，例如網(wǎng)易易盾、百度大腦，以及字節(jié)跳動開發(fā)的靈犬反低俗助手小程序等等。

（圖片來源：https://dun.163.com/product/censor-system?from=baiduP_FLJ_CP6026）

（圖片來源：https://ai.baidu.com/solution/censoring?track=cp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

（圖片來源：靈犬反低俗助手微信小程序）

02 反垃圾策略所面臨的的問題

對于內(nèi)容消費的產(chǎn)品而言，反垃圾、風(fēng)控是產(chǎn)品安全的保證，這些策略是產(chǎn)品正常運營的保障。但是目前各個產(chǎn)品的內(nèi)容審核機制不同，處理和應(yīng)對方案也存在差異，這就導(dǎo)致一系列的操作與體驗問題存在。

接下來的內(nèi)容主要以用戶生產(chǎn)成本最低的“文字”內(nèi)容進(jìn)行分析。

扎克伯格認(rèn)為，AI是內(nèi)容審核的答案。毋庸置疑，面對海量的內(nèi)容，利用AI算法進(jìn)行過濾和風(fēng)控是最優(yōu)的選擇。但是選擇過后，各個產(chǎn)品面向用戶的解決方式是不同的。

比較簡單粗暴的方式就是利用AI進(jìn)行監(jiān)測和刪除，但是這依賴于強大的敏感詞庫與機器學(xué)習(xí)能力。這種內(nèi)容審核本著近似“劣幣驅(qū)逐良幣”過濾機制，將一切名字敏感詞庫的詞匯進(jìn)行禁止。這種做法確實可以阻隔絕大多數(shù)的不良信息在平臺上出現(xiàn)，但同時也會出現(xiàn)很多讓人無奈的情況，例如用戶本想上傳一段詩歌評論：

（尋找到下段文字中的敏感詞，看看你是否具備火眼金睛？）

人們可以在世界上走來走去，但無論走到哪里，都依然是圍著自我在轉(zhuǎn)，似乎永遠(yuǎn)無法真正地走出孤獨的自我，抵達(dá)別的心靈。而正如黑夜總會降臨一樣，人也終究會離開這個世界，生活充滿著各種各樣的可能性，或幸?；蛲纯啵蚋毁F或貧窮，唯有死亡是每個人無法逃避而不得不接受的可能性。

洋洋灑灑一大段，但是發(fā)布時卻被攔住了，系統(tǒng)提示有敏感詞，無法發(fā)布。

這個時候用戶就會懵了，只提示了有敏感詞，但是敏感詞是哪個卻不告知；好不容易寫了這么一大段，居然又發(fā)不了……

（圖片來源：筆者自繪+網(wǎng)絡(luò)表情圖）

這種嚴(yán)格的內(nèi)容審核看似玩笑，但是當(dāng)真作用在用戶自己身上的時候，對于普通用戶而言的傷害是無形的。這種邏輯只是以一種強硬的態(tài)度告知用戶做錯事了，你就是做錯了，所以我們的平臺的禁止你發(fā)布，你需要立刻馬上改正，但是我還不告訴哪里錯了，怎么去調(diào)整解決。

（這種場景為何似曾相識……）

很多時候用戶發(fā)布的詞匯中包含一些敏感詞時，會被禁止發(fā)布或者審核后刪除，但是用戶是無法感知到究竟哪個是敏感詞的，這種無力感會嚴(yán)重影響用戶的互動行為或者下一步的轉(zhuǎn)化率，長此以往，不需要多次，用戶在平臺的流失率就會變得很大。

面對這種情況，實際上需要平臺和用戶共同努力去解決。平臺方需要不斷更新自己的敏感詞庫，不斷訓(xùn)練機器學(xué)習(xí)的能力；同時產(chǎn)品也需要一些忠實用戶進(jìn)行反饋，經(jīng)平臺人工審核后發(fā)布并調(diào)整敏感詞庫內(nèi)容。但是這些操作行為在時間成本上的消耗是巨大的，用戶互動時的即時性很難延續(xù)下去。

03.如何在命中敏感詞時優(yōu)化用戶體驗？

對于審核機制體驗的優(yōu)化，實際上需要從技術(shù)和設(shè)計兩方面共同協(xié)調(diào)，才能給用戶“無感”的用戶體驗，即便內(nèi)容被策略限制，互動的體驗和行為仍然能夠延續(xù)。

1. 技術(shù)上

首先是對自身敏感詞庫內(nèi)容的不斷優(yōu)化、補充、升級，不斷優(yōu)化補充新的詞匯，例如可嘗試補充詩歌詞匯、常用詞組等過濾機制；

其次需要對提升機器學(xué)習(xí)能力，主要是增強機器的語義理解能力，提升對場景識別、上下文識別的能力，從而在根本上減少對敏感詞的“誤識別”，為人工審核緩解更多壓力。

2. 設(shè)計上

內(nèi)容審核是硬性要求，任何互聯(lián)網(wǎng)產(chǎn)品都是要遵循，但是這并不等同于簡單、粗暴地限制、禁止用戶，設(shè)計上需要通過更加友好的方式，為用戶的內(nèi)容生產(chǎn)流程創(chuàng)造更加良好、充滿安全感的體驗。無論平臺的審核機制如何，在反垃圾策略下，對于用戶體驗的優(yōu)化思路的共通的，都需要將控制感歸還給用戶，維護(hù)用戶與產(chǎn)品之間的信任感，不能將所有的責(zé)任轉(zhuǎn)嫁給用戶就結(jié)束了。

審核的流程目前主要分兩種策略，對于時效性較高的產(chǎn)品，往往采用先發(fā)后審的機制，用戶發(fā)布的內(nèi)容通過機器過濾后可以立即發(fā)布，同時其他用戶可見，人工審核在發(fā)布后進(jìn)行；相對應(yīng)的另一種就是先審后發(fā)，通過機器過濾、人工審核流程后再發(fā)布出去。

兩種策略機制的差異點在于用戶內(nèi)容是否會即時發(fā)布，而讓用戶產(chǎn)生疑惑和壓力的環(huán)節(jié)，主要出現(xiàn)在先發(fā)后審的機器過濾環(huán)節(jié)。從用戶行為路徑去分析可以看到，大部分流程的阻斷和干擾都出現(xiàn)在了敏感詞被識別后，機器往往未給用戶提供可選擇的解決方案，告知用戶下一步應(yīng)該怎么做才是對的，符合要求的，只是將用戶內(nèi)容擋在紅線以外，用戶的發(fā)布流程被阻斷，原本的發(fā)布路徑斷開，這就導(dǎo)致用戶在這個流程中陷入“進(jìn)退兩難”的境地。

因此，關(guān)鍵的設(shè)計優(yōu)化思路在于給用戶創(chuàng)建新的閉環(huán)操作，讓用戶能夠順暢解決當(dāng)前面臨的問題。在實際操作上可以借鑒VUI設(shè)計思路，當(dāng)路徑上出現(xiàn)新的阻斷造成缺口時，應(yīng)該圍繞任務(wù)建立新的閉環(huán)路徑，將用戶重新引導(dǎo)至核心路徑中來，從而流暢完成內(nèi)容生產(chǎn)流程，優(yōu)化產(chǎn)品體驗。

（圖片來源：筆者自繪）

（1）敏感詞內(nèi)容提示

直接告知用戶命中的敏感詞內(nèi)容，直觀提示用戶修改，避免用戶陷入疑惑；

（圖片來源：筆者自繪）

（2）內(nèi)容替換

可在發(fā)布前或者發(fā)布結(jié)果中將敏感詞內(nèi)容替換為可發(fā)布內(nèi)容。在這里可以進(jìn)行進(jìn)一步的延伸，例如允許用戶自主選擇或者隨機替換方式，這樣既可以正常發(fā)布內(nèi)容，又可以強化情感化體驗。但是需要注意的是，這種主動提供替換方案的方式存在一定的業(yè)務(wù)風(fēng)險，設(shè)計方案中還是需要評估使用。

（圖片來源：筆者自繪）

（圖片來源：筆者自繪）

（3）自動屏蔽打碼

與內(nèi)容替換結(jié)果比較類似，只是在用戶發(fā)布過程中不會詢問用戶，發(fā)布結(jié)果自動針對敏感詞進(jìn)行屏蔽處理，不影響用戶正常發(fā)布流程；

（圖片來源：筆者自繪）

（4）僅自己可見

用戶可以正常發(fā)布內(nèi)容，但如果內(nèi)容涉及敏感詞，機器識別后可將當(dāng)前內(nèi)容進(jìn)行降權(quán)和假寫處理，僅用戶自己可見，其他用戶不可見，隨后繼續(xù)進(jìn)行人工審核處理。

04.小結(jié)

反垃圾策略是互聯(lián)網(wǎng)產(chǎn)品內(nèi)容凈化的必要屏障，是給用戶呈現(xiàn)健康內(nèi)容生態(tài)的重要環(huán)節(jié)。但是在策略的實現(xiàn)上，大部分產(chǎn)品的解方案往往普遍簡單粗暴，更多操作流程及體驗細(xì)節(jié)需要設(shè)計師進(jìn)一步優(yōu)化，從產(chǎn)品、業(yè)務(wù)形態(tài)及審核流程出發(fā)，在全局視野下優(yōu)化體驗，主動承擔(dān)起企業(yè)責(zé)任，而不是將所有的“誤”發(fā)內(nèi)容的責(zé)任全部甩鍋給用戶。

#專欄作家#

蝦米&胖喵，微信公眾號：pangmiaodesign，人人都是產(chǎn)品經(jīng)理專欄作家。資深交互/產(chǎn)品設(shè)計師，夫妻搭檔，貓奴。曾就職百度/愛奇藝，目前專注于電商、商業(yè)化方向的產(chǎn)品體驗設(shè)計。“有貓，就有一萬種美好！”

本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來自 unsplash，基于 CC0 協(xié)議