所以，我不相信所謂的“超級人類AI”，也不相信AI會比人更聰明。
人們覺得AlphaGo很厲害，是因為覺得一般玩圍棋的人就很聰明了，那能打敗玩圍棋的人肯定更聰明。
這是有誤解的。人知道怎么還貸款，上什么學(xué)校，怎么和同伴做智慧交流，這些事都是AlphaGo做不到的。
其實，AlphaGo只是通過無數(shù)對棋盤的模擬，非常機械地、不斷重復(fù)地復(fù)盤，十幾億、幾百億次地進行學(xué)習(xí)。這背后沒有什么創(chuàng)造力，只是無數(shù)次的重復(fù)工作。
所謂的“智能”，是我們根據(jù)參數(shù)匯集起來的數(shù)據(jù)算法，它們只能復(fù)制、模仿、模擬人類的行動，而不是真正的智能。說到底，相比我們真實的世界，圍棋的復(fù)雜程度要低很多，因為真實的世界充滿不確定性。
我覺得，有生之年不會出現(xiàn)這個奇點了。
傳統(tǒng)的機器人算法不能適應(yīng)未來
本節(jié)要點
傳統(tǒng)單一機器人的算法并不能應(yīng)用于未來的智能城市構(gòu)建；
甚至在今天，傳統(tǒng)的機器人問題也沒有得到很好的解決；
相比過去的工業(yè)革命，人工智能帶來的事業(yè)浪潮將會比過去進程快三倍；
那么，什么是值得大家擔(dān)心的呢？
我前面講到，所謂的超人類智能系統(tǒng)，我們是不應(yīng)該擔(dān)心的。而正好相反的是，看似智能，實則不夠智能的這些系統(tǒng)，卻是值得我們警惕的。
很多媒體提到AI的時候，講到的是視覺、語音的方面。但我們未來涉及到城市規(guī)劃、推薦系統(tǒng)、醫(yī)學(xué)診斷等，都不再是傳統(tǒng)單一機器人的問題。
這是完全不同類型的問題。
一個機器人的某一錯誤我們是可以控制的。比如，機器人走到舞臺邊緣，探測到下面將有一個高度落差，它會知道停下來。
但如果是一系列問題呢？又或者，是很多機器人一起呢？
如果大樓發(fā)生火災(zāi)，這個機器人就不會知道該怎樣逃出去。因為，這是一系列的決策，涉及到你從哪里轉(zhuǎn)移到哪里，還需要和其他人的合作。
比如，大家都從同一個逃生通道出逃，就會出現(xiàn)堵塞，那么，就要選擇換其他的道路。在這種情況下，機器人是做不到的，這樣的算法是非常難的。
如果你用過去傳統(tǒng)的機器人研發(fā)算法去應(yīng)用到城市規(guī)劃建設(shè)等領(lǐng)域，就會出現(xiàn)很多無法解決的重大問題：
NO.1：大規(guī)模多重相關(guān)決策的錯誤控制
搜索引擎給你一個錯誤的推薦建議，如果沒有人因此死亡，就不會出現(xiàn)什么大錯漏。頂多你會覺得這個搜索引擎不好用，再換一個就完了。
但假設(shè)這個推薦是醫(yī)療診斷意見呢？如果這個意見出現(xiàn)錯誤，那真的是會出人命的。而且，我們已經(jīng)看到這件事情的發(fā)生了。
即便是在金融服務(wù)領(lǐng)域，一旦出現(xiàn)錯誤，也可能會引發(fā)市場的大動蕩。交通也是如此，如果連公交走向都出現(xiàn)問題，就極有可能發(fā)生車輛碰撞，整個城市的交通陷入癱瘓。
因此，一旦擴大到這些領(lǐng)域，我們就不能再以傳統(tǒng)應(yīng)用到單一機器人的算法去做這種大規(guī)模的事情，必須要有新算法。
但事實上，在這一點上，我們遠未達到。目前，我們所沿用的思路都是比較傳統(tǒng)或通用的，并沒有意識到在這個層級上還需要做很多事情。
NO.2：如何在競爭環(huán)境中共享數(shù)據(jù)
很多公司手握數(shù)據(jù)，卻不愿與人分享。
假如，有一個黑客找出了新的辦法來騙錢，他針對了某一家公司A。那么，A公司就會從這次欺詐當(dāng)中學(xué)到新東西，可以未來避免同樣的情況。
但因為當(dāng)初的攻擊只針對了A公司，其他的公司并不知道，因此也就不知道如何改進自己的系統(tǒng)了。
表面上看，A公司只把這個技術(shù)掌握在自己手里，讓其他人學(xué)不到，這好像有點自私。因為，他沒有從整個行業(yè)的角度去考慮問題。如果這家公司把這個數(shù)據(jù)分享給所有人，整個行業(yè)就可以一起改善這個算法。
但現(xiàn)在大家都不愿分享，其實一方面是技術(shù)原因，一方面也是法律的原因。
NO.3：大規(guī)模的云端互動
大家都在談云計算，所有的東西都在云上，讓人們感覺到非常便利。
但這些智能設(shè)備，并不是云設(shè)備，而是端設(shè)備。
事實上，我們未來將要接觸的設(shè)備，都會是所謂的端設(shè)備，它們沒有時間將數(shù)據(jù)上傳到云中。如果你和機器人的每一次對話都要上傳到云，就會導(dǎo)致速度跟不上。
比如，汽車做智能，“我在這里到底要不要轉(zhuǎn)彎”這樣的問題，是不可能每一次都實時和云進行交互的。