下面我們分別根據(jù)劇中的幾個(gè)情節(jié),拋出幾個(gè)編劇留給觀眾的作業(yè)吧,也許你那里有更好的答案呢。
當(dāng)人工智能足夠智慧時(shí),應(yīng)被歸為人類還是工具?
劇中數(shù)個(gè)情節(jié)都對(duì)這個(gè)問題進(jìn)行了討論。其中,人類家庭中的丈夫Joe與自家人工智能Synth發(fā)生了性關(guān)系,妻子Laura發(fā)現(xiàn)后與其進(jìn)行了激烈的爭(zhēng)吵。Joe認(rèn)為Synth不過是個(gè)工具,甚至可以算作一個(gè)性玩具,自己的行為不算出軌。而Laura認(rèn)為悉心照顧他們的孩子、幫助他們料理生活的Synth早已是家中一員。當(dāng)妻子得知丈夫把“家庭成員”當(dāng)做性玩具時(shí),反而更加失望。
我認(rèn)為夫妻對(duì)于Synth身份上理解的反差主要因?yàn)閮扇死昧瞬煌膮⒄瘴铮簝?nèi)在機(jī)械芯本質(zhì)和外在人體形態(tài)。Joe認(rèn)為這個(gè)Synth歸根結(jié)底還是一堆金屬機(jī)械,人類制造出來它們便是為人類服務(wù),不存在人性考量;而Laura對(duì)于一個(gè)每天服侍全家的人形機(jī)產(chǎn)生了移情,從內(nèi)心承認(rèn)了他們是如同人類一般的存在。但如果這個(gè)Synth被設(shè)計(jì)成方方正正的機(jī)器形狀,不再具有人類般的皮膚和身體形態(tài),Laura還會(huì)視Synth為家庭一員么?
Synth身份的尷尬也在后面劇情有所體現(xiàn)。當(dāng)六位高級(jí)Synth被人類警察抓獲后,身為律師的Laura提出想要為Synth們辯護(hù)。但辯護(hù)的障礙在于現(xiàn)有法律中沒有明確Synth算是人類資產(chǎn)還是與人類相當(dāng)?shù)娜后w,他們是否可以擁有辯護(hù)的權(quán)利等。
除此之外,六位高級(jí)Synth都有過出于自衛(wèi)目的而殺/傷人的經(jīng)歷,那么這些行為的法律界限在哪里,劇中并未涉及過多。
有意識(shí),沒權(quán)利,是奴隸?
人類一直認(rèn)為“意識(shí)”是人類與機(jī)器區(qū)別的關(guān)鍵。那么當(dāng)人工智能水平發(fā)展到如劇中那六位高等Synth一樣,可以產(chǎn)生同人類一樣的自主思考和情感時(shí),自然也會(huì)有人類的自私甚至破壞欲。人類正是擔(dān)心在未來當(dāng)人工智能比人類更加智能時(shí),人類可能會(huì)面臨滅頂之災(zāi)。
劇中反面角色Edwin博士就因此為人類留了“后門”,他認(rèn)為Synth擁有意識(shí)是有必要的,這樣可以更好地為人類服務(wù)。但為了保護(hù)人類,他將程序編為Synth不具備傷害人類的能力,也就是說“殺/傷人”這樣代碼不會(huì)在Synth處理器中被執(zhí)行(不過,我懷疑當(dāng)強(qiáng)/超人工智能機(jī)器人出現(xiàn)時(shí),人家完全可以自己Hack/編程自己的系統(tǒng),豈會(huì)受人類代碼束縛)。
換句話說,這些不會(huì)殺人的Synth像是被人類馴服的“人類”,這樣的存在是否聽起來有些耳熟,這就是過去的奴隸埃他們擁有智慧、擁有意識(shí),卻要服務(wù)于更加“高級(jí)”的人類階級(jí)。
這部分劇情的設(shè)置實(shí)際上也是對(duì)高等機(jī)器人應(yīng)該算是機(jī)器還是“人類”的探討。
什么都會(huì)的機(jī)器人還有樂趣么?
通過劇情展開的前面兩個(gè)問題的討論,似乎都已經(jīng)將人工智能機(jī)器人置于人類的高度在思考問題。那么,那么前者是否會(huì)有人類的七情六欲呢?
劇中有個(gè)情節(jié)是六位高級(jí)Synth之一的Fred與人類家庭中的小孩兒Toby踢球父親Joe對(duì)Fred說,“我們跟身為機(jī)器人踢球,對(duì)我們太不公平了,你可以踢得完美。”而Fred卻說,“我們的‘父親’認(rèn)為我們應(yīng)該跟人類一樣學(xué)習(xí)這些,這是樂趣,所以在制造最初并沒有將這個(gè)技能編程進(jìn)去,我跟你們一樣,是后天學(xué)會(huì)的踢球。”
所以,機(jī)器人會(huì)和人類一樣需要生活中的樂趣么?
機(jī)器人是否真正活過?
劇中六個(gè)高級(jí)Synth都提過“活著”的問題,他們無法體會(huì)死亡,同時(shí)也不能體會(huì)活著。就像劇中George博士對(duì)高級(jí)Synth Niska說的,“如果你不懼死亡,那么你沒有真正地活過,你只是存在著而已。”
劇中另一個(gè)橋段,當(dāng)高級(jí)Synth Max打算跳河拒絕人類的捕獲前,他的伙伴L(zhǎng)eo勸他不要跳,說跳了之后就真的死了。Max的回答卻是,“死了也好,這樣至少證明我活過。”
這是否代表,高級(jí)人工智能也會(huì)拷問自己“生命”的意義,同時(shí)生命的生死必然規(guī)律是否是機(jī)器人追求的呢?
機(jī)器人背叛機(jī)器人該怎么辦?