但他指出，在可預(yù)見的未來，機(jī)器人的能力還不足以帶來這種擔(dān)憂。假如機(jī)器人真有那么強(qiáng)大的能力，那會給它們帶來負(fù)面反饋的問題可能會給人類帶來威脅。
AI能夠獲得意識嗎？
查爾莫斯的看法則略有不同。“我是這么看意識問題的，這些存在有意識似乎不存在什么疑問……它們表現(xiàn)得擁有非常豐富的情感生活……這體現(xiàn)在它們能夠感覺疼痛和思考問題上……它們并不只是表現(xiàn)出條件反射式的行為，它們還會思考它們所在的處境，它們有在進(jìn)行推理。”
“很顯然，它們是有知覺的。”他補(bǔ)充道。
查爾莫斯說，與其嘗試定義機(jī)器人怎樣才算有意義，還不如想想它們?nèi)鄙倭耸裁?。他指出，最重要的是，它們?nèi)鄙僮杂梢庵竞陀洃?。然而，我們很多人都會不自覺地陷入習(xí)慣當(dāng)中，難以自拔。不計其數(shù)的人都存在極端的記憶問題，但沒有人覺得強(qiáng)奸或者殺害他們并無不妥。
“在這個節(jié)目中，如果說虐待AI是被允許的，那是因為它們?nèi)鄙倭耸裁?，還是因為別的原因？”查爾莫斯問道。
在查爾莫斯看來，《西部世界》描繪的特定場景或許并不現(xiàn)實，因為他并不認(rèn)為二分心智理論（Bicamera mind）會帶來意識，甚至對于機(jī)器人也不會。“相比之下，通過編程讓機(jī)器人直接監(jiān)控自己的想法要來得簡單得多”
但這還是會帶來風(fēng)險。“如果你面對的是像這么復(fù)雜、像這么聰明的機(jī)器人，你會想它是否很容易控制？”查爾莫斯問道。
任何情況下，以不當(dāng)?shù)姆绞綄Υ龣C(jī)器人都可能會給人類的安全帶來威脅。打造無意識的機(jī)器人，我們會面臨它們學(xué)到錯誤的教訓(xùn)的風(fēng)險；非故意地（或者像《西部世界》那樣有意地）打造有意識的機(jī)器人，我們也面臨它們因為被虐待和壓抑而反抗人類的風(fēng)險。
在《西部世界》第二集中，接待員被問她是不是“真人”，她回答說，“如果你分辨出來，又有什么所謂呢？”
這番話聽上去似乎很有道理。（樂邦）
登陸|注冊歡迎登陸本站，認(rèn)識更多朋友，獲得更多精彩內(nèi)容推薦！