RiotGames的《英雄聯(lián)盟》是一款備受歡迎的網(wǎng)絡(luò)游戲，在全球擁有數(shù)量龐大的玩家群體。對于Riot Games 來說，對抗游戲中的惡意言論是一個巨大的挑戰(zhàn)。多年以來，Riot Games試驗了各種各樣的技術(shù)，包括人工智能技術(shù)，對玩家的言行進行監(jiān)控和引導(dǎo)，取得了相當(dāng)不錯的效果。

在Technologyreview網(wǎng)站的采訪中，公司社交系統(tǒng)的首席設(shè)計師Jeffrey Lin說，他們的系統(tǒng)已經(jīng)辨識出數(shù)百萬的惡意言論，而且，被指認使用辱罵言辭的玩家中，92%的人不再犯同樣的錯誤。他認為，Riot的系統(tǒng)不僅能用于在線游戲，而且也能用于其它類型的在線社區(qū)。

數(shù)年前，公司就推出了名為Tribunal的管理系統(tǒng)。玩家的惡意言論被確認后，編入一個“檔案”中。玩家們查看“檔案”，投票表決那些行為是可以接受的。總的來說，這個系統(tǒng)是非常精確的。Jeffrey Lin說，玩家社區(qū)98%的決策與Riot的內(nèi)部決策是一致的。

這是一件非常耗費人力的事情。很快，Jeffrey Lin和團隊發(fā)現(xiàn)了惡意言論的模式。為了優(yōu)化流程，他們決定使用人工智能技術(shù)。“在區(qū)分消極言論和積極言論方面，這是一種非常成功的做法?！队⑿勐?lián)盟》支持的官方語言有15種。” 他說。同時，新系統(tǒng)的效率更高了。以前，在確認了惡意言論后，玩家會在一周內(nèi)得到反饋，現(xiàn)在，這個時間縮減為5分鐘。

公司的新系統(tǒng)還大大改善了玩家的“改正率”。在游戲中，如果一個玩家曾經(jīng)受到某種懲罰，然后，在一段特定時間里不再受到同樣懲罰，他就被認為是“改正”了。“在懲罰的時候，當(dāng)我們加入更好的反饋，給出交談記錄等證據(jù)，改正率從50%上升到65%，” Jeffrey Lin說，“當(dāng)機器學(xué)習(xí)系統(tǒng)提供了更快的反饋，并配以證據(jù)，改正率上升到了前所未有的92%。”

Jeffrey Lin認為，他們的經(jīng)驗?zāi)軌蛴糜诟鼜V闊的領(lǐng)域。對此，哈佛大學(xué)波克曼中心的研究員Justin Reich 表示了贊同。他說，從Riot Games的經(jīng)驗中，我們可以得出一個重要結(jié)論：辱罵行為不一定來自惡人，而是來自心情糟糕的普通人。因此，在對抗惡意言論的時候，我們不能只針對那些惡意的troll，而且需要考慮，在互聯(lián)網(wǎng)的匿名狀態(tài)下，人類會暴露出自己最糟糕的一面。不過，惡意言論并非難以根治的痼疾。通過技術(shù)、實驗和社區(qū)參與，我們能夠解決這個問題。

“我們在《英雄聯(lián)盟》上面對的挑戰(zhàn)，任何的游戲、平臺、社區(qū)和論壇上都可以看到，因此，我們認為，在線社區(qū)已經(jīng)到了一個急需轉(zhuǎn)變的時刻，” Lin 說，“因此，我們樂意把數(shù)據(jù)和經(jīng)驗分享給更多的業(yè)界人士。我們希望，其它的公司能夠看看這些結(jié)論，并且意識到，網(wǎng)上惡意言論并非不可解決的問題。”

登陸|注冊歡迎登陸本站，認識更多朋友，獲得更多精彩內(nèi)容推薦！