色情誤播頻發(fā)的電子大屏幕
線下的電子媒體也深受色情困擾。近年隨著LED/LCD屏幕造價(jià)的不斷降低，其展示內(nèi)容豐富多彩且操控靈活，電子顯示屏在商嘗體育館、演藝場館、學(xué)校、政府機(jī)關(guān)等各種場合得到了廣泛應(yīng)用。伴隨公共電子顯示屏的普及，各種色情誤播事故是你方唱罷我登場，層出不窮。被廣泛報(bào)道的，就有“安徽蚌埠萬達(dá)廣場電子屏播放色情視頻”、“廣東珠海市北大附屬實(shí)驗(yàn)學(xué)校食堂顯示器播放不雅視頻“、“遼寧錦江市凌河區(qū)解放小學(xué)教室電子白板多次播放色情視頻”、“巴西客運(yùn)站時(shí)刻表顯示屏顯示色情網(wǎng)站并播放色情視頻”等上百起色情播放事故，各種電子屏應(yīng)用場合均未幸免；在中小學(xué)甚至幼兒園出現(xiàn)的色情播放事故，影響尤其惡劣。
互聯(lián)網(wǎng)內(nèi)容安全監(jiān)控刻不容緩
不良內(nèi)容在全球互聯(lián)網(wǎng)及線下電子媒體泛濫成災(zāi)，國內(nèi)外的技術(shù)巨頭們一直在嘗試使用人工智能加以識別和過濾，人工智能是維護(hù)健康網(wǎng)絡(luò)的幕后英雄。Facebook、Google、Microsoft、Twitter等知名互聯(lián)網(wǎng)公司，均采用人工智能的技術(shù)來監(jiān)測和過濾色情、暴力等不良圖片和信息。人工智能用于不良內(nèi)容過濾，主要有如下三類典型應(yīng)用：
一、社交平臺和信息服務(wù)平臺自帶的人工智能過濾
雖然社交平臺都有相關(guān)的用戶協(xié)議，要求不能發(fā)布任何仇恨、裸露、暴力、威脅的內(nèi)容，然而對用戶并不能產(chǎn)生實(shí)際約束作用。一個典型的例子，微軟發(fā)布的聊天機(jī)器人Tay，在twitter上線不到24小時(shí)，就因?yàn)楸痪W(wǎng)友的不當(dāng)言論“教壞”了，而不得不下線“修理”。但面對海量并發(fā)的各種言論和信息，人工檢測實(shí)在費(fèi)時(shí)費(fèi)力，人工智能這時(shí)候就展現(xiàn)其獨(dú)特優(yōu)勢了：
－facebook機(jī)器學(xué)習(xí)小組使用機(jī)器學(xué)習(xí)方法來監(jiān)測所有上載到facebook的圖片的內(nèi)容，包括廣告的內(nèi)容，用來過濾其中色情、暴力等內(nèi)容。
－Twitter收購了兩家視覺媒體內(nèi)容監(jiān)測創(chuàng)業(yè)公司Madbits和Whetlab，運(yùn)用它們的人工神經(jīng)網(wǎng)絡(luò)技術(shù)實(shí)現(xiàn)色情內(nèi)容監(jiān)控。
－Google的SafeSearch（安全檢索）功能使用了機(jī)器學(xué)習(xí)來識別色情圖片，可給未成年人提供健康正常的網(wǎng)絡(luò)瀏覽與檢索。
二、軟件和技術(shù)供應(yīng)商開發(fā)的色情內(nèi)容過濾的軟件和API
－Google不僅提供SafeSearch功能，并且將此功能作為API開放給其他用戶使用，作為他們的云視覺API（Cloud Vision API）服務(wù)的一部分，目前已有很多客戶。一些規(guī)模較小的社交平臺（例如用戶個人品牌服務(wù)公司Photofy）可以使用這套系統(tǒng)來保證他們的用戶不使用色情圖片來吸引流量。
－微軟的人工智能API服務(wù)（微軟牛津計(jì)劃）也提供類似的功能。
三、不良內(nèi)容終極殺手：新型智能硬件和軟件服務(wù)
以上基于云計(jì)算的不良內(nèi)容鑒別技術(shù)和服務(wù)，主要應(yīng)用于大型互聯(lián)網(wǎng)社交平臺或搜索引擎，對線下應(yīng)用和中小型網(wǎng)站并不適用，比如上文提到的公共電子顯示屏、缺乏計(jì)算平臺和防護(hù)技術(shù)的普通門戶網(wǎng)站（如中小企業(yè)主頁、各級政府機(jī)關(guān)的門戶網(wǎng)站等）、以及對防護(hù)實(shí)時(shí)性要求很高的視頻直播等。可喜的是，隨著算法和技術(shù)的不斷進(jìn)步，人工智能也逐漸滿足上述應(yīng)用需求了。北京匠數(shù)科技有限公司（www.deepctrl.com），是國內(nèi)專注于網(wǎng)絡(luò)和電子媒體內(nèi)容安全監(jiān)控的人工智能公司，設(shè)計(jì)推出了基于深度學(xué)習(xí)的“盒諧”系列不良內(nèi)容監(jiān)控產(chǎn)品，包括適用于公共電子屏不良內(nèi)容實(shí)時(shí)過濾的智能硬件，給中小企業(yè)和政府機(jī)關(guān)門戶網(wǎng)站提供的內(nèi)容安全監(jiān)控服務(wù)，以及適用于網(wǎng)絡(luò)直播的內(nèi)容安全監(jiān)控服務(wù)等。匠數(shù)科技CEO張樂平說，“我們相信，保護(hù)互聯(lián)網(wǎng)和電子媒體免受色情暴力等不良信息的侵害，給所有的網(wǎng)民尤其是青少年提供一個干凈健康的互聯(lián)網(wǎng)世界，是人工智能最主要的價(jià)值所在，也是匠數(shù)科技的責(zé)任和使命——只為更好的智能世界。”
人工智能，做網(wǎng)絡(luò)健康最忠實(shí)的守護(hù)神，消除互聯(lián)網(wǎng)中黑暗的角落，讓互聯(lián)網(wǎng)的普世之光，照進(jìn)世界的現(xiàn)在和未來。
登陸|注冊歡迎登陸本站，認(rèn)識更多朋友，獲得更多精彩內(nèi)容推薦！