南七道
摘要： 機器還很難模擬出普通用戶的使用體驗，很難理解內容背后的深意，很難作出準確的“人的判斷”。
近日，F(xiàn)acebook的CEO馬克.扎克伯格宣布公司將會新增3000名內容審核員，他們負責審核平臺上的內容，包括最近網(wǎng)上有出現(xiàn)的謀殺、自殺和強奸等視頻。
科技巨頭聘用大量人力來做內容審核，已經(jīng)不算什么稀奇事。Google、百度、騰訊、新浪、今日頭條都設置了類似崗位。對于做內容的平臺，內容審核尤其重要，一旦沒有處理好，很有可能影響到整個公司的前景。為什么在科技如此發(fā)達的今天，機器還沒法完全替代傳統(tǒng)的人工審核？各大巨頭還需要人海戰(zhàn)術來鑒黃呢？
內容平臺的“阿克琉斯之踵”
今年4月，一位泰國男子在Facebook上直播殺害親生女兒的畫面，隨后該男子自殺。視頻在Facebook上掛了近24個小時，大量用戶看到嬰兒被殺害的過程。其中一段視頻播放量超過25萬次，視頻還被其他用戶上傳到其他視頻網(wǎng)站。
色情、暴力、犯罪，這些不良內容多次在Facebook上出現(xiàn)，這讓Facebook陷入爭議。今年3月，一名15歲美國少女被多名男子性侵犯并被直播到Facebook上，視頻吸引了至少40萬人關注。有人稱，這樣的畫面讓人感到害怕和不安，“看了之后晚上都睡不著覺”。
事發(fā)后，F(xiàn)acebook團隊意識到問題的嚴重性。Facebook的CEO扎克伯格公開表示，F(xiàn)acebook將盡一切努力避免此類內容再出現(xiàn)，并且表示Facebook要變成一個健康而安全的網(wǎng)絡社區(qū)，還有很多工作要做。
擴招內容審核員正是Facebook為此做出的舉措。此前，F(xiàn)acebook在全球已有4500名員工負責內容審核，此次擴招會讓審核過程更加及時和準確。這些員工主要負責處理那些沒有被審查到的、或者沒有被立即刪除的不良內容。
社交媒體時代，每天都有大量的用戶在不斷地生產(chǎn)內容。對于平臺而言，除了補貼內容生產(chǎn)方外，還需要支出更多的內容審核成本。但盡管如此，平臺還是不惜人力和財力，去做好內容審核的工作。一方面是大量的不良內容，會使得用戶產(chǎn)生反感，會降低使用產(chǎn)品的頻率甚至遠離產(chǎn)品。劣幣驅逐良幣，不利于平臺的長期發(fā)展。另外一方面，不良內容的發(fā)布，很有可能導致觸犯國家法律，引來平臺的管制甚至關閉，今年年初，知名的同性社區(qū)ZANK就因為直播涉黃被整體關閉。
在國內，BAT許多平臺都設有內容審核員一職。以新浪微博為例，新浪微博是國內最大的社交平臺之一。對于內容，新浪微博仍主要采用人工審核的方式。除了色情、暴力等不良內容，平臺還會留意政治、宗教等敏感內容。但是依然有各種擦邊或者不良內容的漏網(wǎng)之魚。內容的審核和把關，成了各大內容平臺的阿克琉斯之踵，從初創(chuàng)公司到科技巨頭，沒有人敢放松這根神經(jīng)。除非是別有用心的想利用情色來吸引用戶，但那樣肯定不會長久。
讓人絕望的內容審核工作
2013年，百度、騰訊、金山等10多個互聯(lián)網(wǎng)公司組成“安全聯(lián)盟”，用20萬高薪招聘“首席淫穢色情鑒定官”。上班能看片還拿著高薪，網(wǎng)友調侃“簡直沒天理”。
其實，內容審核工作并沒有想象中簡單。以Facebook為例，F(xiàn)acebook已有的審核員每天要處理大量的UGC內容，他們需要審核包括色情、暴力、犯罪等多個方面的不良內容，在判斷內容時會承受很大的壓力。他們必須區(qū)分開普通兒童寫真和兒童色情照片，還要分清楚這是朋友間的玩笑還是侵犯性內容。他們必須做到細致地歸類，需要將內容放到具體語境下進行區(qū)分。要是沒有審核到位，F(xiàn)acebook很有可能會被指責侵犯公民的言論自由。
審核員的工作，會對個人生活產(chǎn)生很大的負面影響。長期審查兒童色情作品后,他們會對接觸孩子的人疑神疑鬼。觀看太多色情圖片甚至會影響他們的性生活和婚姻關系，他們已經(jīng)對色情影像感覺到麻木。
今年1月，微軟在線安全團隊的成員向微軟提起訴訟。因為他們每天被迫觀看大量恐怖、色情和兇殺圖片及視頻，因此患上了心理后遺癥，“經(jīng)常失眠、做惡夢，腦子里充滿圖片和視頻內容。”但微軟官方表示，并不認同這兩位前員工的觀點， 公司每月都會對這些員工提供一定的心理支持。