互聯(lián)網(wǎng)廣告內(nèi)容審核專題(三)——人機聯(lián)動
編輯導(dǎo)語:筆者上一篇文章《機器審核》中,重點介紹了機器審核的能力,互聯(lián)網(wǎng)廣告內(nèi)容審核專題(二)——機器審核;本文來談?wù)剻C器和對人工審核如何組合運作,滿足各類業(yè)務(wù)場景的需求?
首先,什么場景需要人工審核?對于機器無法準(zhǔn)確識別的內(nèi)容,都需人工審核進(jìn)行確認(rèn);通常機器審核和人工審核的量級約為9:1,對于日均量級上億的內(nèi)容產(chǎn)品上,人審日均量級也達(dá)到百萬級,同時滿足時效性要求和審核質(zhì)量無疑是很困難的。
因此在實際業(yè)務(wù)中,根據(jù)不同產(chǎn)品的形態(tài),建立不同的人機聯(lián)動審核機制,最大化滿足審核訴求。
下面分別談?wù)剝煞N基本的審核機制:
一、人機聯(lián)動機制
1. 先審后發(fā)
先審后發(fā)是早期審核采用的模式,要求全部內(nèi)容均通過完整的審核流程后允許上線分發(fā),用以保證風(fēng)險最低、質(zhì)量最優(yōu)。
通常對于商業(yè)廣告,高風(fēng)險行業(yè)或客戶必須采用先審后發(fā)機制,來避免風(fēng)險的發(fā)生;對于重質(zhì)量的內(nèi)容社區(qū),也需要經(jīng)過完整的審核流程才能進(jìn)行發(fā)布。
以上給出先審后發(fā)機制中,機器和人工審核聯(lián)動的基本流程。待審內(nèi)容都先通過機器審核;當(dāng)機審輸出結(jié)果達(dá)到閾值,準(zhǔn)確度可信時,按機器審核結(jié)果通過上線或直接拒絕;當(dāng)機審輸出結(jié)果未達(dá)到閾值,給出疑似風(fēng)險的判斷,推送給人工審核進(jìn)行最終確認(rèn),按人審結(jié)果通過上線或直接拒絕。
對于先審后發(fā)機制,不斷提升機器審核的準(zhǔn)確率,將會大大減少人工審核的工作。
2. 先發(fā)后審機制
對于海量的內(nèi)容,全部采取先審后發(fā)機制無法滿足內(nèi)容分發(fā)的時效要求。近些年興起的先發(fā)后審機制,可以幫助解決這部分問題。
對于商業(yè)廣告,可以選取低風(fēng)險行業(yè)或客戶,允許先上線分發(fā),幫助其短時間內(nèi)獲取更多流量;對于時效性要求高的內(nèi)容產(chǎn)品,如評論、視頻彈幕等,快速上線展現(xiàn),滿足其實時發(fā)布需求。
以上給出先發(fā)后審機制中,機器和人工審核聯(lián)動的基本流程。待審內(nèi)容通過機器審核,秒級輸出機審審核結(jié)果;如機審結(jié)果確認(rèn)有風(fēng)險,則按機審結(jié)果直接拒絕,否則立刻上線分發(fā);上線后根據(jù)展現(xiàn)量抽取線上展現(xiàn)內(nèi)容,推送人工復(fù)審,檢查風(fēng)險問題。
如人工復(fù)審發(fā)現(xiàn)的風(fēng)險問題較大,可以將該行業(yè)或客戶的審核機制升級為先發(fā)后審,來保證風(fēng)險可控。
在審核業(yè)務(wù)中,先審后發(fā)和先發(fā)后審兩種機制也通常組合運作,靈活調(diào)配,以最小的成本實現(xiàn)風(fēng)險控制,滿足審核時效要求。
二、審核任務(wù)分配
在人機聯(lián)動審核機制中,如何將審核任務(wù)快速分配給對應(yīng)的人員進(jìn)行審核呢?來一起看看審核任務(wù)分配機制。
1. 審核任務(wù)主動分配
上圖是一套動態(tài)靈活的審核任務(wù)分配機制,減少任務(wù)等待時間,更快速地分發(fā)給審核人員。
第一步:待審任務(wù)灌入審核任務(wù)池,等待被分配。
第二步:根據(jù)審核組長或管理人員配置的權(quán)重,自動分發(fā)相應(yīng)比重的任務(wù),進(jìn)入審核員任務(wù)列表,審核員可以開始審核;通常分配權(quán)限需支持靈活配置,如支持審核員請假等場景。
第三步:對審核任務(wù)池和審核員任務(wù)列表實時監(jiān)控;如出現(xiàn)任務(wù)池任務(wù)突增,需加快分配至審核員任務(wù)列表進(jìn)行審核;如審核員任務(wù)列表剩余任務(wù)不足,任務(wù)池主動進(jìn)行分配;通過這樣動態(tài)分配的方式,保證審核員有充足的任務(wù),避免任務(wù)積壓。
實際審核任務(wù)分配可以基于此基本方法進(jìn)行變換,滿足不同場景的審核需求。
本篇文章的內(nèi)容就到這里,關(guān)于更多的審核模式、審核機制、審核業(yè)務(wù)管理方式等會在后續(xù)文章中繼續(xù)和大家分享!歡迎大家一起探討!
本文由 @Rush 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載
題圖來自?Unsplash,基于 CC0 協(xié)議
贊??