總的來說，我很高興自己能幫助 AI 研究和 “價值觀對接” 的研究搭建橋梁。此外，Deepmind 現(xiàn)在能專注于 “價值觀對接” 的研究上，我還是有一點點的小功勞的（笑）。
趙云峰（新媒體 “機器之心” 創(chuàng)始人）
Q: 繼 Elon Musk，Stephen Hawking 之后，近日 Michio Kaku（加來道雄，美籍日裔理論物理學(xué)家）也表示我們應(yīng)該擔(dān)憂人工智能，很多人工智能產(chǎn)業(yè)之外的名人和大眾也比較關(guān)注這個話題。但是，人工智能領(lǐng)域的從業(yè)者往往是從解決具體問題出發(fā)，對這個問題好像不是特別在意，或者只是提出一些較為宏觀的解決方案，比如說 DeepMind 的道德委員會，你認(rèn)為對于防范人工智能風(fēng)險，我們應(yīng)該采取哪些具體的、馬上可以開始行動的方案嗎？
A: 有趣的問題。加來道雄真的認(rèn)為我們應(yīng)該對此感到焦慮嗎？他之前是不相信 AI 風(fēng)險的（至少我是這么認(rèn)為的）。如果他的態(tài)度發(fā)生轉(zhuǎn)變，這是一個好消息（越來越多人開始正視問題存在了）。
關(guān)于研發(fā)者的態(tài)度，我覺得你是對的。他們的確沒有動力去考慮系統(tǒng)的風(fēng)險（更準(zhǔn)確的說，是關(guān)于價值觀對接的問題），但他們有動力去提高系統(tǒng)的性能。就如 Holden Karnofsky 所說：“目前從文化和機構(gòu)層面來看，研發(fā)者沒有多大的動力去關(guān)心這些問題。但即使如此，還是有小部分有關(guān)人士開始關(guān)心這些潛在問題。所以我相信，未來會有更多的人加入這一思考。”
（這里有一篇非常棒的文章，列舉了許多優(yōu)秀的 AI 研發(fā)者對于風(fēng)險的思考 http://slatestarcodex.com/2015/05/22/ai-researchers-on-ai-risk/）
目前如何預(yù)防這種風(fēng)險？當(dāng) “價值觀對接” 領(lǐng)域缺乏資金的問題得到緩解后，緊接著的瓶頸是缺乏這方面的人才（素質(zhì)要求與 AI 研發(fā)的其它領(lǐng)域不同）。我們需要更多的人和機構(gòu)，來解決各種研究上的問題——從運算理論上升到哲學(xué)思想。
就像我前面提到的，解決 AI “價值觀對接” 的問題不僅非常重要，而且是有趣的！
陳孝良（聲智科技CEO）
Q: 機器學(xué)習(xí)理論與神經(jīng)科學(xué)、人類行為學(xué)都有著密切的聯(lián)系。因此，Deepmind 使用的“深度強化學(xué)習(xí)算法”需要海量的案例去訓(xùn)練 AI。但如我們所知，我們?nèi)祟愅梢酝ㄟ^單一案例舉一反三，從而學(xué)習(xí)一個概念，還能通過比機器算法更豐富的方式學(xué)習(xí)。為了解決這個問題，科學(xué)家正嘗試?yán)秘惾~斯推論法讓 AI 通過簡單案例學(xué)習(xí)。你怎么看貝葉斯推論和深度學(xué)習(xí)的未來？下一步 AI 又要如何模仿接近人類的想象力和推理能力？
A: 嗯...…據(jù)我所知，神經(jīng)網(wǎng)絡(luò)大體建立在函數(shù)逼近上，與神經(jīng)生理學(xué)只有一些偶然的聯(lián)系。
我對貝葉斯學(xué)習(xí)法了解不算深入，我認(rèn)為雖然它是理論上最優(yōu)的，但是特別消耗計算資源。此外，最近還有一個很有趣的所謂 “終極” 貝葉斯 AI 產(chǎn)品 AIXI。
的確，從通用的角度，目前的方法都還不夠好。我的朋友 Gary Marcus 已多次重申這個觀點。他自己也創(chuàng)立了一家公司來探索能夠通用化的技術(shù)：Geometric Intelligence（我投資的項目?。?。
高始興（思必馳創(chuàng)始人）
Q: 你覺得未來人們有沒有可能有自己個人的大數(shù)據(jù)？
A: 從某種程度上來說，有可能。我投資了兩個創(chuàng)業(yè)項目，都與 “私有云” 有關(guān)：Sandstorm（http://sandstorm.io/ ）和 Urbit （http://urbit.org/）。
但這樣說吧，公共數(shù)據(jù)（public data）的規(guī)模和價值都會更 “大”。隨著傳感器的廣泛應(yīng)用，數(shù)據(jù)量會呈幾何倍增長。此外，越來越先進的分析技術(shù)能利用部分?jǐn)?shù)據(jù)和歷史數(shù)據(jù)來推斷出更多信息。
劉維(聯(lián)想之星合伙人)
Q: 非結(jié)構(gòu)化的數(shù)據(jù)的未來發(fā)展該會是怎樣？如何才能充分使用它們？我們有沒有必要結(jié)合框條化的學(xué)習(xí)與深度學(xué)習(xí)呢？此外，大量數(shù)據(jù)就能解決一切問題嗎？如果，在一些條件下，失敗的代價很大，并且很難去窮盡它的邊界條件（比如說：自動駕駛）？”
A: 從根本上來說，我認(rèn)為非結(jié)構(gòu)化的數(shù)據(jù)最終能滿足需要。就像小孩子就可以從非結(jié)構(gòu)化的感觀信息開始學(xué)習(xí)，我并不認(rèn)為人腦里有什么 “神奇” 的東西。