Elon Musk：就像你知道的那樣，我對 AI 有所顧慮已經(jīng)有一段時(shí)間了。我和 Sam，和 Reid [Hoffman]，和 Peter Thiel，還有其他人，談了許多次。我們在思考，“有沒有某種方法可以確保——或者提升——AI 以有益的方式發(fā)展的概率？” 作為幾次談話的結(jié)果，我們得出了創(chuàng)立一個(gè) 501c3 組織的結(jié)論（譯者注：501 (c) 是美國國內(nèi)稅收法（Internal Revenue Code, IRC）中的一項(xiàng)條款（美國國內(nèi)稅收法, § 501 (c)），列出了 26 種享受聯(lián)邦所得稅 （federal Income tax）減免的非營利組織，501 (c)(3) 為宗教、教育、慈善、科學(xué)、文學(xué)、公共安全測試 （Testing for public safety）、促進(jìn)業(yè)余體育競爭和防止虐待兒童或動物等七個(gè)類型的組織，來自維基百科）：一家非營利性組織，不具有讓利潤最大化的義務(wù)，可能會是一件不錯(cuò)的事情。同時(shí)，我們也會對安全性非常重視。
那么從哲學(xué)的角度上來說就有了一個(gè)重要的元素：我們希望 AI 能被廣泛傳播。有兩種流派的思想——你是想要 AI 的數(shù)量很多，還是很少？我們認(rèn)為可能數(shù)量多是一件好事。而且從你可以將它作為人類意愿的延伸這個(gè)方面來看，這也是一件好事。
人類意愿？
Musk：就像你自身有一個(gè) AI 的延伸部分，每個(gè)人在本質(zhì)上都與 AI 共生、而不是 AI 作為一個(gè)與你無關(guān)的大型中央智能（large central intelligence）。想象一下你將會怎么使用，比如說網(wǎng)絡(luò)上的應(yīng)用：你可以收發(fā)郵件、玩轉(zhuǎn)社交媒體、你的手機(jī)上還有許多其它 app——它們讓你變成了一個(gè)能做很多事的超人，而你并不會認(rèn)為它們是與你無關(guān)的，你會覺得它們是你的延伸。所以我們想要盡力引導(dǎo) AI 往這個(gè)方向發(fā)展。我們已經(jīng)找到了一些和我們有相似理念的 AI 領(lǐng)域的工程師和研究者。
Altman：我們認(rèn)為 AI 發(fā)展的最好方式就是，它應(yīng)該是關(guān)于讓個(gè)人變得強(qiáng)大、讓人類的生活變得更好的東西，對于所有人來說都是免費(fèi)的，而不是一個(gè)比其他人類強(qiáng)大一百萬倍的精英。因?yàn)槲覀儾⒉皇且粋€(gè)比如 Google 那樣的追求盈利的公司，我們可以不用關(guān)注于如何讓股東們財(cái)源滾滾，而是關(guān)注于對于人類未來而言，我們相信的、在實(shí)際上最好的東西。
Google 不是也將它的進(jìn)展與公眾分享嗎？比如它最近在機(jī)器學(xué)習(xí)領(lǐng)域做的那樣
Altman：他們的確與公眾分享了許多研究成果。隨著時(shí)間過去，隨著我們逐漸接近那種超越人類智能的東西，Google 還會與公眾分享多少成果是值得懷疑的。
你們在 OpenAI 中研究的東西不是也會超越人類智能嗎？
Altman：我預(yù)期它會，但是它會是開源的，任何人都能使用，而不是只能被，比如說 Google，來使用。這個(gè)團(tuán)體研發(fā)的任何東西都將對所有人開放。如果你拿去以后做了一些改變、讓它適應(yīng)其他用途，你也不會有義務(wù)要和公眾分享你的成果。但是只要是我們做的任何工作，都會對所有人開放。
如果我是邪惡博士（Dr. Evil），我利用了它，那么你們不就是在助紂為虐嗎？
Musk：我想這是一個(gè)很精彩的問題，我們?yōu)檫@個(gè)爭論過不少次。
Altman：關(guān)于這個(gè)問題有一些不同的思路。就像科幻作品中用 “大部分人類都是善良的，而人類的集體力量中可能有一些邪惡的元素” 的事實(shí)來對抗邪惡博士那樣，我們認(rèn)為，比起一個(gè)單獨(dú)的比其他任何東西都強(qiáng)大無數(shù)倍的 AI，許多許多的 AI 致力于阻止偶爾出現(xiàn)的邪惡 AI，這種可能性要大得多。如果那個(gè)強(qiáng)大無比的 AI 脫離了人類掌控，或者邪惡博士得到了它、沒有東西能與它抗衡，那么我們就真的落到了很糟糕的境地。
對于 OpenAI 公布的東西，你們會有監(jiān)管嗎？
Altman：我們的確希望能夠隨著時(shí)間建立起監(jiān)管機(jī)制。一開始將只有 Elon 和我。我們距離實(shí)際開發(fā)出真正的 AI 還有很長很長的距離。但我想我們將會有足夠的時(shí)間來建立監(jiān)管的機(jī)制。
Musk：我確實(shí)想要將一些時(shí)間花在這個(gè)團(tuán)隊(duì)上，大概會是每周在辦公室花上一兩個(gè)下午的時(shí)間來了解研究進(jìn)展、提供我的想法和反饋，對于 AI 的現(xiàn)狀和我們是否在接近一種危險(xiǎn)的東西有一些更深的理解。我個(gè)人將會對安全性極其敏感，我對這個(gè)問題有許多顧慮。如果我們看到了某種我們認(rèn)為在安全性上有風(fēng)險(xiǎn)的東西，我們會將其公之于眾。