喬治亞理工大學(xué)的AI研究員Mark Riedl表示，不擔(dān)心AI反噬人類。圖片來源：?jiǎn)讨蝸喞砉W(xué)院。
許多科技大牛對(duì)人工智能技術(shù)都有些談虎色變，硅谷鋼鐵俠馬斯克就是其中之一，2014年他在公開場(chǎng)合表示“AI技術(shù)正在召喚惡魔”，稱AI技術(shù)將像《2001太空漫游》中的HAL 9000人工智能電腦一樣殺死所有“船員”。無獨(dú)有偶，著名物理學(xué)家霍金也表達(dá)了自己的擔(dān)憂，他認(rèn)為人類不斷在AI領(lǐng)域探索“是個(gè)極大的錯(cuò)誤，該錯(cuò)誤甚至可能是人類有史以來犯過的最愚蠢的錯(cuò)誤。”
不過也有人不信這一套，來自佐治亞理工學(xué)院交互計(jì)算系的人工智能研究人員Mark Riedl就是其中之一。
“我認(rèn)為人們大可放心，人工智能反噬人類的情況不太可能發(fā)生，”Riedl說道。“我認(rèn)為科幻片中的天網(wǎng)不太可能誕生，而且AI也不會(huì)將人類看成它們的威脅。”此外，以現(xiàn)在的技術(shù)水平來看，想要打造馬斯克和霍金眼中那種覺醒后會(huì)毀滅人類文明的AI還不太現(xiàn)實(shí)。
不過，未雨綢繆總不是壞事，在AI的發(fā)展之路上，許多專家已經(jīng)開始了行動(dòng)。舉例來說，未來自動(dòng)駕駛汽車載著我們出行時(shí)，就需要替人類做出許多選擇。那么如何調(diào)教AI，讓其符合人類的價(jià)值標(biāo)準(zhǔn)，以保證我們的安全不受侵害就成了需要考慮的問題之一。
AI也需要飽讀詩書
Riedl認(rèn)為要想讓AI理解人類，最好的辦法就是讓它閱讀那些飽含人類價(jià)值觀的書目。簡(jiǎn)單來說，如果AI能閱讀《圣經(jīng)》等作品，就能通過學(xué)習(xí)樹立正確的三觀，分清善惡的界限。
Riedl表示，人工智能即使會(huì)傷害人類，也不是因?yàn)槠湫员緪?，而是因?yàn)樗静焕斫獾降资裁词莻Α４送?，我們也很難給AI列出一個(gè)清單，告訴它什么可以做，什么不可以做。因此，我們要讓AI適應(yīng)人類文化。
“問題在于我們手中并沒有關(guān)于道德和不道德行為的完整資料庫，”他說道。“不過人類幾千年的文明孕育了太多的善惡故事，即使我們?nèi)祟?，也是通過學(xué)習(xí)樹立自己的三觀。在人類文化方面，我們可沒有用戶使用手冊(cè)，不過智慧的前人已經(jīng)將精華放進(jìn)了許許多多的故事中。”
Riedl和他的同事Brent Harrison最近在一篇名為《用故事給AI灌輸價(jià)值觀》的論文中提到了上述觀點(diǎn)。他們的研究基于一個(gè)名為Scheherazade的人工智能項(xiàng)目，在這里，AI可以寫出交互式小說（即通過不斷選擇來決定故事的發(fā)展方向），當(dāng)然，在開寫前AI需要從其他故事中取經(jīng)。在研究過程中，Riedl和Harrison洞悉了AI從大量故事中學(xué)習(xí)寫作技巧的方法，他們將其制成了名為Quixote的系統(tǒng)，該系統(tǒng)可以教會(huì)AI用合適的方式完成任務(wù)。
分清“買藥”和“搶藥”
舉例來說，Riedl和Harrison會(huì)下令讓AI從藥房拿些藥。“如果AI只是以效率為先，它肯定會(huì)沖進(jìn)藥房搶走所需藥品并逃之夭夭。”Riedl說道。
AI會(huì)犯這種大錯(cuò)不是因?yàn)樗硇孕皭?，而是它根本不知道去藥房拿藥需要排?duì)和付款。而這些約定俗成的習(xí)慣可不是學(xué)校學(xué)來的，而是人們?cè)谏钪卸δ咳韭?xí)得的。不過AI可沒有父母，也沒人肯花大量時(shí)間來培養(yǎng)它，因?yàn)樗鼈兩鷣砭褪且瓿扇蝿?wù)的。
“不過如果我們能通過一系列真實(shí)的故事讓AI學(xué)會(huì)社會(huì)準(zhǔn)則，那么它們一定會(huì)有很大的進(jìn)步，跑去藥房搶藥的事就再也不會(huì)發(fā)生了。”Riedl說道。
雖然需要許多限制性因素，但Riedl和Harrison通過實(shí)驗(yàn)驗(yàn)證了自己的理論。當(dāng)然，在實(shí)驗(yàn)中去藥房買藥的AI并沒有獲得機(jī)器外殼，而且它們參考的故事都直接與去藥房買藥一事息息相關(guān)（可能那個(gè)故事很無聊，因?yàn)槭菍ｉT為這次實(shí)驗(yàn)撰寫的）。
在實(shí)驗(yàn)中，如果AI表現(xiàn)出色，就會(huì)得到獎(jiǎng)勵(lì)，但如果違反了社會(huì)準(zhǔn)則，就會(huì)受到懲罰。
“這種做法非常明智，”生物倫理學(xué)家兼美國(guó)進(jìn)步中心研究員Jonathan Moreno說道。“通過小說，我們可以接觸他人的實(shí)際生活。同時(shí)，小說也是作者眼中社會(huì)價(jià)值和期待的集中體現(xiàn)，Riedl的做法值得點(diǎn)贊。”