什么是邪惡的人工智能（Bad AI），能舉個(gè)例子么？
Altman：實(shí)際上，邪惡的人工智能基本都和科幻小說描繪的差不多，但像終結(jié)者那樣的人工智能技術(shù)，還需要一段時(shí)間才能出現(xiàn)。我在短期內(nèi)絲毫不擔(dān)心它們。不過有一件事我的確認(rèn)為是挑戰(zhàn)：自動(dòng)化的普及，以及工作被機(jī)器人取代。另一個(gè)邪惡的人工智能例子是，人工智能程序能夠像黑客那樣進(jìn)入電腦，而且這方面要遠(yuǎn)比人類強(qiáng)大。這些事現(xiàn)在已經(jīng)發(fā)生了。
你的系統(tǒng)已經(jīng)建立好了嗎？
Altman：還沒有，開始會(huì)像研究實(shí)驗(yàn)室那樣，而且在長期的時(shí)間里，也都會(huì)以這樣的形式存在。現(xiàn)在我們還不知道怎么去建造這個(gè)系統(tǒng)。從第一天開始，我們有了 8 名研究者，未來幾個(gè)月還會(huì)有更多人加入。現(xiàn)在他們會(huì)使用 YC 孵化器的辦公空間，當(dāng)他們逐漸成長后才會(huì)搬出去獨(dú)立辦公。他們也會(huì)不斷演練想法，編寫程序來看是否能加速現(xiàn)在人工智能技術(shù)的進(jìn)展。
組織外的人，可以加入到項(xiàng)目中么？
Altman：當(dāng)然可以了。我們把項(xiàng)目以完全開放的形式進(jìn)行，自由分享信息，這樣的好處是能和任何人合作。你很難和 Google 的員工合作，因?yàn)樗麄冇幸淮蠖驯Ｃ軛l款。
Sam，既然 Open AI 會(huì)最早入駐 YC 孵化器，你的創(chuàng)業(yè)公司們會(huì)參與到 Open AI 的工作么？（更正：Altman 現(xiàn)在告訴我說，辦公室會(huì)在舊金山。）
Altman：如果 OpenAI 的確開發(fā)了不錯(cuò)的技術(shù)，而且所有人都可以免費(fèi)使用并造福于科技公司。不過也僅僅是這樣了。但我們會(huì)詢問 YC 孵化器的公司們，在自愿的情況下開放合適的數(shù)據(jù)給 OpenAI。Elon Musk 也在考慮 Tesla 和 Space X 公司能分享哪些數(shù)據(jù)。
你們會(huì)分享什么類型的數(shù)據(jù)？
Altman：這有很多。例如說所有的 Reddit 數(shù)據(jù)都會(huì)是非常有用的訓(xùn)練集。你也可以想象，所有的特斯拉自動(dòng)駕駛視頻也會(huì)變得很有價(jià)值。大量的數(shù)據(jù)的確很重要。如果你思考人類如何變得聰明，當(dāng)你讀書的時(shí)候，你變得聰明，當(dāng)我讀書的時(shí)候，我變得聰明。但是我并不會(huì)因?yàn)槟阕x書而變得聰明，反過來也一樣。但是使用特斯拉作為例子，當(dāng)一輛特斯拉學(xué)會(huì)新的習(xí)慣，那么所有的特斯拉都會(huì)立刻從它的智能獲得收益。
Musk：實(shí)話說我們并沒有非常詳細(xì)的專門計(jì)劃，因?yàn)樗€處在公司非常初創(chuàng)的階段。這是一種萌芽期的狀態(tài)。但確信的是，特斯拉會(huì)有大量的數(shù)據(jù)，關(guān)于真實(shí)世界的數(shù)據(jù)，因?yàn)槲覀兊妮喿用磕甓紩?huì)積累幾百萬的公里數(shù)。也許特斯拉相比世界上任何其他的公司，都有更多的真實(shí)世界數(shù)據(jù)。
【Elon Musk & YC 專訪】如何防止人工智能顛覆 ？
Tesla CEO 和產(chǎn)品架構(gòu)師 Elon Musk，YC 孵化器主席 Sam Altman
AI 需要大量的計(jì)算能力。你們打算怎么部署基礎(chǔ)設(shè)施？
Altman：我們正和亞馬遜云服務(wù)合作，他們?yōu)轫?xiàng)目捐獻(xiàn)了大量的基礎(chǔ)設(shè)施服務(wù)。
你們要向項(xiàng)目投資 10 億美元？
Musk：我得說最后的資金投資會(huì)超過 10 億美元。我們并不想出具詳細(xì)的資金來源統(tǒng)計(jì)分析，但是我們?cè)诓┛椭刑岬搅藶轫?xiàng)目做出杰出貢獻(xiàn)的人。
這個(gè)項(xiàng)目會(huì)持續(xù)多久？
Altman：這取決于它需要多長時(shí)間建立起來。我們會(huì)盡可能的節(jié)儉，但這也許是幾十年的項(xiàng)目，需要很多人參與，也需要很多的硬件設(shè)施。
而你們不需要去賺錢？
Musk：對(duì)的。這不是利益取向的投資。也許它未來能夠產(chǎn)生收入，就像斯坦福實(shí)驗(yàn)室 501c3 項(xiàng)目一樣。所以未來也許會(huì)有收入，但不會(huì)有利潤給股份持有者分紅，也不會(huì)有股票價(jià)格或其他任何可以獲利的東西。我們認(rèn)為這樣會(huì)比較好。
Elon，你在早些時(shí)間投資了人工智能公司 DeepMind，而現(xiàn)在似乎是相同的理由，來確保人工智能受到監(jiān)督。然后 Google 收購了 DeepMind，這是你的第二次嘗試么？
Musk：我得強(qiáng)調(diào)，我并不是通常意義的投資者。我不尋求投資和財(cái)務(wù)上的回報(bào)。我給自己參與創(chuàng)立的公司投資，有時(shí)候是出于幫助朋友，有時(shí)候是因?yàn)槲业男叛?，也有的時(shí)候是因?yàn)槲谊P(guān)心的事情。我并不是出于分散風(fēng)險(xiǎn)或者物質(zhì)意義上的考慮。不過，我對(duì) DeepMind 所謂的投資，不過是為了更好的理解人工智能，并且能夠時(shí)刻看到它的進(jìn)展。