研究者M(jìn)ark Riedl 和 Brent Harriso的Quixote系統(tǒng)教機(jī)器人做出合乎人類價值觀的行為，將有助于在人工智能中構(gòu)建倫理價值系統(tǒng)。

人工智能（AI）的快速發(fā)展讓許多人開始害怕機(jī)器人是否會做出不符合人類倫理的事情，并危害全人類。一些人甚至要求政府禁止機(jī)器人方面的科學(xué)研究。還有一些人則呼吁對AI進(jìn)行更多研究，以理解應(yīng)該怎樣更好地管理AI。但是，如果我們沒有一本“如何做人的說明書”，機(jī)器人如何才能學(xué)到符合倫理的行為呢？

喬治亞理工學(xué)院人機(jī)交互系的研究者M(jìn)ark Riedl 和 Brent Harrison相信，這個問題的答案就藏在一個名為“Quixote”的系統(tǒng)中——這個系統(tǒng)于2月中旬發(fā)布在鳳凰城舉行的AAAI-16會議上。Quixote將“價值定位”教給機(jī)器人，采用的方法是訓(xùn)練機(jī)器人閱讀故事，學(xué)習(xí)其中的事件序列并理解如何在人類社會中做出正確的行為。

娛樂智能實(shí)驗(yàn)室的助理教授Riedl說：“不同的文化中都有很多故事，通過寓言、小說和其他文學(xué)體裁教孩子們哪些行為在社會中是合宜的，哪些是不合適的。我們相信，讓機(jī)器人理解故事，能消除那些看起來像精神病的行為，并鞏固那些能獲得預(yù)期目標(biāo)又不會傷害人類的行為。”

Quixote用人類價值觀來校準(zhǔn)AI目標(biāo)，使用的方法是獎賞那些具有合宜社會性的行為。這個系統(tǒng)構(gòu)建于Riedl過去的一項(xiàng)研究——謝赫拉莎德系統(tǒng)（Scheherazade system），這個系統(tǒng)表明AI能夠在互聯(lián)網(wǎng)上通過眾包故事情節(jié)的方法，收集正確的行為序列。

謝赫拉莎德系統(tǒng)學(xué)到了什么是正常的或者說“正確”的情節(jié)圖譜。它將這個數(shù)據(jù)結(jié)構(gòu)交付與Quixote，后者再將其轉(zhuǎn)化為“獎賞信號”，用在試錯學(xué)習(xí)過程中，以強(qiáng)化某種特定的行為，并懲罰其他的行為。從本質(zhì)上說，Quixote學(xué)到了當(dāng)它的行為表現(xiàn)得像故事中的主角而不是反派人物或隨機(jī)做事時，它將獲得獎賞。

比如說，如果你交給機(jī)器人一個任務(wù)，讓它盡快為一個人類取到處方藥，它可能有以下幾種行為的可能性：a）搶劫一個藥店，拿到藥，然后逃跑；b）與藥劑師禮貌地溝通；c）排隊(duì)。如果沒有價值定位和正向增強(qiáng)，機(jī)器人可能會搶劫藥店，因?yàn)槟鞘峭瓿扇蝿?wù)最快也是最便宜的方法。有了Quixote的價值定位，如果機(jī)器人耐心地排隊(duì)，并為藥品付錢，它將獲得獎賞。

Riedl 和 Harrison在他們的研究中驗(yàn)證了如何產(chǎn)生這種價值獎賞信號來揭示一個給定情境中所有的可能步驟，并將其映射到一個情節(jié)軌跡樹。接著，機(jī)器人會用情節(jié)軌跡樹來做出“情節(jié)選擇”（有點(diǎn)像《驚險岔路口》那種分支情節(jié)），并基于該選擇獲得獎勵或懲罰。

Riedl 說，Quixote技術(shù)適用于那些目標(biāo)單一但需要和人類互動的機(jī)器人，它是通往AI通用道德推理的必經(jīng)之路。

他補(bǔ)充說：“我們相信，AI必須要適應(yīng)文化，適應(yīng)某個特定社會的價值觀。要實(shí)現(xiàn)這一點(diǎn)，它必須盡量避免不被接受的行為。由于我們并沒有一本《人類使用手冊》，所以讓機(jī)器人擁有閱讀和理解故事的能力，或許是最方便的方法。”

來自phys，機(jī)器之心編譯出品。編譯：汪汪。

登陸|注冊歡迎登陸本站，認(rèn)識更多朋友，獲得更多精彩內(nèi)容推薦！