“無論計算機(jī)技術(shù)如何發(fā)展，盡管真正的人工智能系統(tǒng)會在很多具體問題的解決能力上超過人類，但由于它沒有生物屬性，沒有和人類完全相同的經(jīng)驗，所以不會在所有方面超越人類。”王培表示，未來的人工智能系統(tǒng)只是在某些方面和人具有可比性，而非整體超越人類。那么，人與系統(tǒng)之間的關(guān)系也不可能等同于人與人之間的互動水平。
人工智能真的可控嗎
人工智能不會全面超過人類不意味著它完全可控。就連庫茲韋爾也表示，失控的人工智能在邏輯上是完全可能的。
王培承認(rèn)，“智能”往往被當(dāng)作褒義詞，但事實上，真正的智能在擁有靈活性和創(chuàng)造性的同時，也可能是不穩(wěn)定、不可靠的。“人工智能目標(biāo)在一定程度上可以說就是減少人對計算機(jī)的控制和干預(yù)。因此，智能越高，失控的可能性在理論上就越大，風(fēng)險也就越大。”
這正好印證了倫理學(xué)家的擔(dān)憂。我國著名生命倫理學(xué)家邱仁宗表示，倫理學(xué)認(rèn)為解決這個問題的核心，是希望人工智能機(jī)器成為一個“人工道德行動者”，使它們能考慮他人利益，甚至擁有利他主義傾向。
美國機(jī)器智能研究院專門研究人工智能的安全發(fā)展，該機(jī)構(gòu)奠基人尤德科夫斯基就曾提出了“友好人工智能”的概念，認(rèn)為“友善”從設(shè)計伊始就應(yīng)當(dāng)被注入機(jī)器的智能系統(tǒng)中。但這個理論很容易被推翻。“一個明顯的常識是：人類無法避免自己的一部分后代學(xué)壞。”江曉原說。
王培的看法是，一個智能系統(tǒng)的行為同時取決于其先天條件以及后天條件。對于系統(tǒng)設(shè)計本身，可以在某種程度上將人類普世的道德標(biāo)準(zhǔn)編進(jìn)程序。但由于它擁有自適應(yīng)能力，人類無法預(yù)見其行為的所有后果。
“人工智能的‘自主決策’仍是被它的經(jīng)驗所約束的，如果在其‘未成年’期對其輸入信息控制，以達(dá)到社會認(rèn)可的動機(jī)、知識、技能結(jié)構(gòu)和水平，并在其成長過程中進(jìn)行與機(jī)器相關(guān)的道德、法律等社會約束，通過終生教育和社會化過程，可以實現(xiàn)像對人一樣的管理。”
他認(rèn)為，這就是平衡自由和道德的手段，然而，這個平衡并不能事先保證。這也說明人工智能一定能成為“人工道德行動者”的證據(jù)是不明確的。
預(yù)防還是行動
有一種觀點認(rèn)為，在科技發(fā)展過程中，恐懼新技術(shù)的人都會振振有詞地說：到此處為止，不要再進(jìn)步。
然而，由于“智能”天生就無法控制，在邱仁宗看來，人工智能對人類構(gòu)成的威脅是一種“存在威脅”，即人類存在本身都成為問題，沒有一項其他科技可以與之對等。
“真正帶有終極性質(zhì)的問題是：我們究竟為什么需要人工智能？人工智能真的必不可少嗎？”江曉原認(rèn)為，“沒有人工智能或者限制人工智能并不會影響人類生存，它影響的是資本增值。”
這也造成在該問題上兩種截然不同的處理原則。預(yù)防原則要求，我們不能用試錯法來處理生存危機(jī)。如果一個行為的后果未知，但是根據(jù)科學(xué)家判斷有極小可能會帶來巨大的負(fù)面風(fēng)險，這一行為最好不要進(jìn)行；行動派則認(rèn)為，很明顯，這就要求科學(xué)家在戰(zhàn)略中要盡可能提高自信以對抗這種風(fēng)險。阻止新興技術(shù)帶來的好處，可能會增加災(zāi)難性結(jié)果的可能性。
盡管兩者無法達(dá)成一致，但人工智能研究是人類幾千年來在意識層面上自我認(rèn)識的努力的最新前沿，它將不會停止發(fā)展。
“目前在這個領(lǐng)域的研究成果還沒有成熟到支持應(yīng)用技術(shù)的程度。和所有科學(xué)領(lǐng)域一樣，把不成熟的研究成果投入實際應(yīng)用是危險的，尤其是那些可能產(chǎn)生深遠(yuǎn)影響的成果，因此它的倫理問題很重要。”王培坦言，作為人工智能的研究者，隨時想著自己研究工作的社會后果非常必要。“但人工智能技術(shù)的具體倫理規(guī)范應(yīng)當(dāng)隨著科學(xué)研究的進(jìn)展而逐漸建立，而不可能在研究成果尚未成熟的條件下完善。”
江曉原也表示，在必須發(fā)展該技術(shù)的前提下，我們應(yīng)該抱著慎之又慎的心態(tài)。雖然本質(zhì)上不存在能對抗強(qiáng)人工智能的絕對保護(hù)措施，大力增加在發(fā)展防御手段上的投入，包括道德標(biāo)準(zhǔn)、法律標(biāo)準(zhǔn)和防御技術(shù)本身都是非常必要的。