同樣，在創(chuàng)新一種新產(chǎn)品的過程中，產(chǎn)品設(shè)計(jì)師也可以利用機(jī)器學(xué)習(xí)難以置信的天賦在成千上萬種不同的排列組合中運(yùn)行計(jì)算。我們總能使它們?cè)诶骀湹哪┒四軌蜻\(yùn)用常識(shí)，以確保計(jì)算機(jī)確實(shí)能把我們的最大利益放在它們的工作目標(biāo)上。
外科醫(yī)生將被替換為擁有更穩(wěn)定的機(jī)械手的機(jī)器人，能夠更有效地在病人身上進(jìn)行觀察，并且能夠更迅速地完成手術(shù)。但他們是否能夠成為合格的外科醫(yī)生？
這是另一個(gè)問題出現(xiàn)的地方。如果手術(shù)死亡率下降，或者人工智能醫(yī)生比人類醫(yī)生更安全、更成功，這是完全可能的，那么給機(jī)器人外科醫(yī)生一個(gè)更大的自主選擇權(quán)將是合情合理的。
所以，即使是人工智能也可能最終會(huì)實(shí)現(xiàn)選擇自動(dòng)化。
但我們必須考慮人性。如果計(jì)算機(jī)總是正確的，那么我們最終將交出控制權(quán)。
同時(shí)設(shè)計(jì)師們發(fā)現(xiàn)，電腦在一些情況下的處理效果更好，它們也將會(huì)得到更多的批準(zhǔn)和放寬政策。如果人工智能法官每次都能做出一個(gè)完美的裁決，最終，人類法官會(huì)簡(jiǎn)單地將自己的裁決提交給人工智能法官。
因此，我們也許根本不需要一場(chǎng)終結(jié)者式的起義。也許這是一個(gè)對(duì)將會(huì)發(fā)生的事的一個(gè)虛構(gòu)與類比。我們也愿意將我們的決策權(quán)交給一個(gè)優(yōu)秀的人工智能。一個(gè)強(qiáng)大的人工智能可以讓我們的人類決策能力在下一代人里變得無關(guān)緊要。在完美的人工智能環(huán)境下長(zhǎng)大的孩子很可能不會(huì)做出任何沖動(dòng)的決定。
由于懶于參與人情世故以及和簡(jiǎn)單知識(shí)的結(jié)合，使人工智能比人腦具有更多，更合理的處理能力。我們甚至可以把世界和每一個(gè)重大決定都交給那些從未尋求過額外控制權(quán)的人工智能。
人工智能必須用來賦權(quán)人類
與其將世界的控制權(quán)全部交給人工智能，我們難道不應(yīng)該用人工智能來強(qiáng)化我們自己的決策嗎？
每當(dāng)我想到人工智能應(yīng)該如何工作時(shí)，我就會(huì)想到這一點(diǎn)——尤其是我們?cè)诘聡?guó)仍在打造完整的人工智能建筑平臺(tái)的時(shí)候。
我們現(xiàn)在總是被種種事情分散注意力。我們專注于生活中重要決策的能力受到我們生活中的信息泛濫、智能手機(jī)持續(xù)的干擾，以及受限于第二天的生活壓力中。我們需要把我們最平凡的任務(wù)交給人工智能，但一定要確保這是一個(gè)有人類意識(shí)的決定。
然而不幸的是，看起來大多數(shù)公司都在朝相反的方向發(fā)展。當(dāng)然，我們可以逆轉(zhuǎn)人工智能的發(fā)展方向，移除所有的自主選擇權(quán)，將人工智能的作用下降到背后支持者的角色。但只要商業(yè)利益驅(qū)使我們實(shí)現(xiàn)完整的人工智能，這種情況就會(huì)有變故。為什么財(cái)富50強(qiáng)公司不希望承擔(dān)客戶決策的權(quán)力，而讓人工智能做出所有的購(gòu)買決定呢？
如今，公司沒有理由不去開發(fā)這樣的人工智能，而且也沒有法律禁止他們這樣做。企業(yè)已經(jīng)創(chuàng)造出了一些產(chǎn)品，這些產(chǎn)品利用人類天性中分等的優(yōu)勢(shì)，創(chuàng)造出對(duì)大多數(shù)人來說極其難以打破的購(gòu)買習(xí)慣。
可以想想語音管家Amazon dot。相信有一天，客戶會(huì)將這一按鈕的控制權(quán)交給人工智能，并且這并不是一件很遙遠(yuǎn)的事情。有了這個(gè)權(quán)利之后，人工智能能夠知道他們做了什么決定，比如他們?yōu)槲覀冑?gòu)買了多少東西。