編者按：本文是根據(jù)互聯(lián)網(wǎng)進(jìn)化論作者，計(jì)算機(jī)博士劉鋒4月13日中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院與騰訊研究院在北京聯(lián)合舉辦了“2017人工智能：技術(shù)、倫理與法律研討會(huì)”上的發(fā)言內(nèi)容整理形成。演講的題目是“人工智能倫理規(guī)則制定與生物進(jìn)化方向的關(guān)系”。
本文詳細(xì)闡述了制定人工智能倫理需要回答的5個(gè)問(wèn)題，提出“生物進(jìn)化是否有方向“能否達(dá)成共識(shí)，將是未來(lái)制定人工智能（AI）倫理能否形成規(guī)范的關(guān)鍵。根據(jù)“2017人工智能：技術(shù)、倫理與法律研討會(huì)”的演講整理的研究報(bào)告如下：
通俗的說(shuō)：倫理就是指“人與人以及人與自然的關(guān)系和處理這些關(guān)系的規(guī)則”，人類數(shù)千年的文明史，至今我們也沒(méi)有一個(gè)統(tǒng)一的、標(biāo)準(zhǔn)的、明確的倫理體系，僅有一些大部分人承認(rèn)的大體的原則。對(duì)于人工智能帶來(lái)的倫理沖擊，因?yàn)閭惱韱?wèn)題的不完善和爭(zhēng)議而變得更為突出。
泰坦尼克號(hào)（RMS Titanic，又稱鐵達(dá)尼號(hào)）是一艘?jiàn)W林匹克級(jí)郵輪，于1912年4月處女航時(shí)撞上冰山后沉沒(méi)。泰坦尼克號(hào)海難為和平時(shí)期死傷人數(shù)最慘重的海難之一。船上1500多人喪生。在逃生的過(guò)程中究竟哪個(gè)群體獲得生命優(yōu)先權(quán)。成為逃難過(guò)程中面臨的重要的問(wèn)題，美國(guó)新澤西州州立大學(xué)教授、著名社會(huì)學(xué)家戴維·波普諾在他的《社會(huì)學(xué)》一書(shū)中這樣寫道：“……不幸的是救生船不夠。盡管很多人(超過(guò)1500人)遇難，但乘客注意遵守‘優(yōu)先救助婦女兒童’的社會(huì)規(guī)范”，使得英國(guó)公眾和政府面對(duì)這一巨大災(zāi)難，“可以找到一些安慰”——統(tǒng)計(jì)數(shù)據(jù)表明，“乘客中69%的婦女和兒童活了下來(lái)，而男乘客只有17%得以生還”。
《2012》是一部關(guān)于全球毀滅的災(zāi)難電影，于2009年11月13日在美國(guó)上映。電影講述了主人公以及世界各國(guó)人民掙扎求生的經(jīng)歷，災(zāi)難面前，盡現(xiàn)人間百態(tài)。電影中當(dāng)空軍一號(hào)只能容納一人登機(jī)時(shí)，美總統(tǒng)讓物理科學(xué)家安全離開(kāi)，自己留下時(shí)說(shuō)到“一個(gè)科學(xué)家比幾十位官員更重要“
火車正在急速行駛，不能急停。而正前方有一分叉路軌， 左邊仍在使用， 右邊已經(jīng)停用(但是火車行駛上去.還是安全的) 。有5個(gè)小朋友在仍在使用的鐵軌上玩，一個(gè)小朋友在停用的鐵軌上玩。這時(shí)火車來(lái)了。按照火車原定路線，會(huì)駛向左邊，撞上5個(gè)小朋友。如果駛向右邊，只會(huì)撞上1個(gè)小朋友。假如你是扳道工，你會(huì)不會(huì)把火車扳向右邊？
波士頓動(dòng)力機(jī)器人在搬動(dòng)箱子時(shí)，受到測(cè)試科學(xué)家的攻擊，導(dǎo)致站立不穩(wěn)摔倒，互聯(lián)網(wǎng)的視頻觀眾提出抗議，認(rèn)為侵犯了機(jī)器人的權(quán)利。
“機(jī)器人不得傷害人類；機(jī)器人必須服從人類的命令，除非這條命令與第一條原則相矛盾；機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條原則相矛盾。”以上是著名科幻作家、“機(jī)器人學(xué)之父”阿西莫夫提出的“機(jī)器人三原則”，被后世無(wú)數(shù)的科幻小說(shuō)及影視作品引用，被人們奉為經(jīng)典。
在阿西莫夫眼中，機(jī)器人只是冷冰冰的機(jī)器，是為人類服務(wù)的工具。既然是工具，自然也就不需要什么權(quán)利，所以當(dāng)“保護(hù)自己”與“不得傷害人類”、“必須服從人類命令”相矛盾的時(shí)候，機(jī)器人最基本的生存權(quán)都可以被毫不猶豫地犧牲。
但是，近年來(lái)，在機(jī)器人技術(shù)快速發(fā)展以及與人類關(guān)系日益密切的時(shí)代背景中，關(guān)于機(jī)器人權(quán)利問(wèn)題的討論受到越來(lái)越多的關(guān)注，學(xué)者和公眾紛紛參與其中。