Google、百度、騰訊、新浪、今日頭條都設(shè)置了類似崗位。對(duì)于做內(nèi)容的平臺(tái)，內(nèi)容審核尤其重要，一旦沒(méi)有處理好，很有可能影響到整個(gè)公司的前景。

為什么在科技如此發(fā)達(dá)的今天，機(jī)器還沒(méi)法完全替代傳統(tǒng)的人工審核?各大巨頭還需要人海戰(zhàn)術(shù)來(lái)鑒黃呢?

內(nèi)容平臺(tái)的阿克琉斯之踵

今年4月，一位泰國(guó)男子在Facebook上直播殺害親生女兒的畫(huà)面，隨后該男子自殺。視頻在Facebook上掛了近24個(gè)小時(shí)，大量用戶看到嬰兒被殺害的過(guò)程。其中一段視頻播放量超過(guò)25萬(wàn)次，視頻還被其他用戶上傳到其他視頻網(wǎng)站。

色情、暴力、犯罪，這些不良內(nèi)容多次在Facebook上出現(xiàn)，這讓Facebook陷入爭(zhēng)議。今年3月，一名15歲美國(guó)少女被多名男子性侵犯并被直播到Facebook上，視頻吸引了至少40萬(wàn)人關(guān)注。有人稱，這樣的畫(huà)面讓人感到害怕和不安，“看了之后晚上都睡不著覺(jué)”。

事發(fā)后，F(xiàn)acebook團(tuán)隊(duì)意識(shí)到問(wèn)題的嚴(yán)重性。Facebook的CEO扎克伯格公開(kāi)表示，F(xiàn)acebook將盡一切努力避免此類內(nèi)容再出現(xiàn)，并且表示Facebook要變成一個(gè)健康而安全的網(wǎng)絡(luò)社區(qū)，還有很多工作要做。

擴(kuò)招內(nèi)容審核員正是Facebook為此做出的舉措。此前，F(xiàn)acebook在全球已有4500名員工負(fù)責(zé)內(nèi)容審核，此次擴(kuò)招會(huì)讓審核過(guò)程更加及時(shí)和準(zhǔn)確。這些員工主要負(fù)責(zé)處理那些沒(méi)有被審查到的、或者沒(méi)有被立即刪除的不良內(nèi)容。

平臺(tái)不惜人力和財(cái)力，去做好內(nèi)容審核的工作。一方面是大量的不良內(nèi)容，會(huì)使得用戶產(chǎn)生反感，會(huì)降低使用產(chǎn)品的頻率甚至遠(yuǎn)離產(chǎn)品。劣幣驅(qū)逐良幣，不利于平臺(tái)的長(zhǎng)期發(fā)展。

另外一方面，不良內(nèi)容的發(fā)布，很有可能導(dǎo)致觸犯國(guó)家法律，引來(lái)平臺(tái)的管制甚至關(guān)閉，今年年初，知名的同性社區(qū)ZANK就因?yàn)橹辈ド纥S被整體關(guān)閉。

在國(guó)內(nèi)，BAT許多平臺(tái)都設(shè)有內(nèi)容審核員一職。以新浪微博為例，新浪微博是國(guó)內(nèi)最大的社交平臺(tái)之一。對(duì)于內(nèi)容，新浪微博仍主要采用人工審核的方式。

除了色情、暴力等不良內(nèi)容，平臺(tái)還會(huì)留意政治、宗教等敏感內(nèi)容。但是依然有各種擦邊或者不良內(nèi)容的漏網(wǎng)之魚(yú)。內(nèi)容的審核和把關(guān)，成了各大內(nèi)容平臺(tái)的阿克琉斯之踵，從初創(chuàng)公司到科技巨頭，沒(méi)有人敢放松這根神經(jīng)。除非是別有用心的想利用情色來(lái)吸引用戶，但那樣肯定不會(huì)長(zhǎng)久。

讓人絕望的內(nèi)容審核工作

2013年，百度、騰訊、金山等10多個(gè)互聯(lián)網(wǎng)公司組成“安全聯(lián)盟”，用20萬(wàn)高薪招聘“首席淫穢色情鑒定官”。上班能看片還拿著高薪，網(wǎng)友調(diào)侃“簡(jiǎn)直沒(méi)天理”。

其實(shí)，內(nèi)容審核工作并沒(méi)有想象中簡(jiǎn)單。以Facebook為例，F(xiàn)acebook已有的審核員每天要處理大量的UGC內(nèi)容，他們需要審核包括色情、暴力、犯罪等多個(gè)方面的不良內(nèi)容，在判斷內(nèi)容時(shí)會(huì)承受很大的壓力。

他們必須區(qū)分開(kāi)普通兒童寫(xiě)真和兒童色情照片，還要分清楚這是朋友間的玩笑還是侵犯性內(nèi)容。他們必須做到細(xì)致地歸類，需要將內(nèi)容放到具體語(yǔ)境下進(jìn)行區(qū)分。要是沒(méi)有審核到位，F(xiàn)acebook很有可能會(huì)被指責(zé)侵犯公民的言論自由。

審核員的工作，會(huì)對(duì)個(gè)人生活產(chǎn)生很大的負(fù)面影響。長(zhǎng)期審查兒童色情作品后,他們會(huì)對(duì)接觸孩子的人疑神疑鬼。觀看太多色情圖片甚至?xí)绊懰麄兊男陨詈突橐鲫P(guān)系，他們已經(jīng)對(duì)色情影像感覺(jué)到麻木。

今年1月，微軟在線安全團(tuán)隊(duì)的成員向微軟提起訴訟。因?yàn)樗麄兠刻毂黄扔^看大量恐怖、色情和兇殺圖片及視頻，因此患上了心理后遺癥，“經(jīng)常失眠、做惡夢(mèng)，腦子里充滿圖片和視頻內(nèi)容?！钡④浌俜奖硎?，并不認(rèn)同這兩位前員工的觀點(diǎn)， 公司每月都會(huì)對(duì)這些員工提供一定的心理支持。

(網(wǎng)絡(luò)招聘“內(nèi)容審核員”信息)

同樣的情況，在中國(guó)也是普遍存在，尤其是在內(nèi)容審核領(lǐng)域。不少公司會(huì)將內(nèi)容審核交由外頭公司承擔(dān)，這些公司雇傭大量人力來(lái)做文字、圖片、視頻等內(nèi)容的審核，審核員每天需要承擔(dān)上百條甚至更多信息的審核工作。

這些審核員領(lǐng)著3000到5000的月工資，大多生活在國(guó)內(nèi)二、三線城市。路透社此前的一篇報(bào)道曾經(jīng)將新浪微博的這項(xiàng)工作稱為“高壓、無(wú)望的工作”——每人每小時(shí)至少要看3000條微博，不少人因?yàn)閴毫μ笄铱床坏缴仙臻g而離開(kāi)。

人工智能時(shí)代的審核尷尬

隨著科技的發(fā)展，媒體和創(chuàng)業(yè)者都不斷的勾畫(huà)著，人工智能時(shí)代到來(lái)的激動(dòng)場(chǎng)景，但時(shí)至今日，雖然通過(guò)機(jī)器學(xué)習(xí)，不斷在提升系統(tǒng)對(duì)于內(nèi)容類型的識(shí)別和判斷概率。但對(duì)于內(nèi)容的審核，科技巨頭主要還是依賴人工，這真是特別的尷尬。

機(jī)器在很長(zhǎng)時(shí)間內(nèi)，根本不能完全取代人工審核。以Google為例，Google有超過(guò)一萬(wàn)名員工充當(dāng)著搜索結(jié)果評(píng)估者的角色。這家業(yè)界領(lǐng)先的科技巨頭仍需雇傭大量的勞動(dòng)力來(lái)改善自身產(chǎn)品，這或許說(shuō)明了人工智能局限性——機(jī)器還很難模擬出普通用戶的使用體驗(yàn)，很難理解內(nèi)容背后的深意，很難作出準(zhǔn)確的“人的判斷”。

而且，目前機(jī)器審核多用于文字內(nèi)容。如機(jī)器檢測(cè)到含有敏感詞匯的內(nèi)容，會(huì)將其刪除或向用戶發(fā)出警告。但對(duì)于圖片、視頻的審核，機(jī)器無(wú)法像對(duì)文字內(nèi)容一樣提取關(guān)鍵詞，審核難度較大。

在上述的Facebook殺童直播案中，機(jī)器就無(wú)法根據(jù)視頻畫(huà)面去鑒別內(nèi)容性質(zhì)。此時(shí)，人工審核將發(fā)揮其無(wú)可替代的作用。

對(duì)于Facebook這樣擁有20億用戶的大型社交網(wǎng)站，除了人工審核，還有其他兩種輔助審核渠道。一方面，F(xiàn)acebook引導(dǎo)用戶使用舉報(bào)功能。用戶若發(fā)現(xiàn)色情視頻、圖片等不良信息，可以向平臺(tái)舉報(bào)。網(wǎng)站管理員收到信息后，會(huì)完成刪圖或者封號(hào)等后續(xù)處理。

另一方面，F(xiàn)acebook也正在測(cè)試人工智能，希望進(jìn)一步采用機(jī)器+人工的審核方法。比如，如果有一張裸體照片此前被刪除，那么再次上傳時(shí)就會(huì)被自動(dòng)刪除。

在國(guó)內(nèi)，人工+機(jī)器審核是目前科技公司常用的審核方法。以快手為例，快手擁有數(shù)百人的內(nèi)容審核團(tuán)隊(duì)，每條快手短視頻、直播的發(fā)布都要經(jīng)過(guò)機(jī)器和人工等多道審核。

同時(shí)，不少第三方公司提供內(nèi)容審核服務(wù)，如萬(wàn)象優(yōu)圖、網(wǎng)易易盾、圖普科技、阿里綠網(wǎng)等多個(gè)產(chǎn)品，都可以輔助平臺(tái)進(jìn)行機(jī)器審核。優(yōu)酷、荔枝FM、映客直播、美拍等多個(gè)平臺(tái)都有使用這些第三方服務(wù)。

人工智能雖然取得了不錯(cuò)的發(fā)展，也在逐漸改變?nèi)藗兊纳罘绞?，提升了社?huì)效率。但是還遠(yuǎn)未到徹底解放人工的時(shí)代。對(duì)于內(nèi)容審核的大量底層雇員來(lái)說(shuō)，他們每天夾雜在科技巨頭和海量信息之間，也許在將來(lái)，人工智能能徹底解放他們。不過(guò)真到了那一天，也就是他們失業(yè)的時(shí)候了。