《機(jī)器中的幽靈:金融市場(chǎng)中的人工智能、風(fēng)險(xiǎn)及監(jiān)管》是Euromoney Institutional Investor Thought Leadership 的一項(xiàng)調(diào)查報(bào)告,他們對(duì)全球金融機(jī)構(gòu)中的 424 名高級(jí)管理人員進(jìn)行了調(diào)查問卷,研究人工智能/機(jī)器學(xué)習(xí)在金融市場(chǎng)的風(fēng)險(xiǎn)以及監(jiān)管問題。
本文結(jié)構(gòu):
一、所有系統(tǒng)向前進(jìn)(Go)
二、從快速思維到智能思維
三、起作用的人工智能
四、從摩爾定律到墨菲定律
五、結(jié)論
六、關(guān)于本調(diào)查
七、附錄(完整調(diào)查結(jié)果)
一、所有系統(tǒng)向前進(jìn)(Go)
2016 年 3 月 15 日,一個(gè)名為 AlphaGo 的人工智能程序在圍棋中擊敗了人類世界冠軍。圍棋游戲非常復(fù)雜,其走法存在的可能性數(shù)量總和比宇宙原子數(shù)量還高出幾百個(gè)數(shù)量級(jí)。AlphaGo 最終以 4-1 的成績(jī)?nèi)〉昧私^對(duì)的勝利。此外在識(shí)別模糊模式、學(xué)習(xí)新模式和調(diào)整策略以應(yīng)對(duì)變化中的環(huán)境等方面,AlphaGo 也展現(xiàn)出人工智能的一些顯著進(jìn)步。
然而,就在 AlphaGo 取得勝利兩周之后,一個(gè)名叫 Tay 的聊天機(jī)器人就暴露出了人工智能黑暗的一面。 Tay 原本是為了與人們進(jìn)行友好的網(wǎng)絡(luò)交談,并用微軟服務(wù)協(xié)助人類。Tay 獨(dú)特的設(shè)計(jì)特點(diǎn)使她可以從在線交互中進(jìn)行學(xué)習(xí)。在 Tay 公開發(fā)布后,Twitter 用戶鋪天蓋地的謾罵和煽動(dòng)性語言接踵而來,這教給了 Tay 錯(cuò)誤的東西。該程序被敗壞,變得口噴種族主義、性別歧視和排外言論;這揭示了人工智能設(shè)計(jì)和編程中潛在缺陷,以及人工智能和自然智能之間令人不安的互動(dòng)。
這兩件事揭示了引入人工智能所存在的矛盾。AlphaGo 這樣的程序展示了人工智能可以如何分析海量數(shù)據(jù)、識(shí)別復(fù)雜模式,賦予人類新的分析能力。相反地,Tay 的惡意故障提醒著我們,這項(xiàng)技術(shù)還遠(yuǎn)未達(dá)到萬無一失的程度,尤其是當(dāng)與人類交互時(shí)。
人工智能將帶來的不是不計(jì)后果的速度或失控,而是一個(gè)具有史無前例深度和廣度的洞見,以及依照信息行動(dòng)并從行動(dòng)中學(xué)習(xí)的能力。
在對(duì)全球金融機(jī)構(gòu)和金融科技企業(yè)的 424 位高管進(jìn)行調(diào)查、對(duì)該領(lǐng)域的一些頂尖專家進(jìn)行采訪之后,我們發(fā)現(xiàn),隨著人工智能在整個(gè)金融市場(chǎng)開疆?dāng)U土,這一矛盾也同樣很明顯。
許多人將人工智能看作是可以幫助改善金融機(jī)構(gòu)風(fēng)險(xiǎn)管理的工具,比如,進(jìn)行更為深度的投資組合風(fēng)險(xiǎn)評(píng)估和更透徹、更全面、更清楚的信用風(fēng)險(xiǎn)評(píng)估。在這些應(yīng)用中,人工智能將帶來的不是不計(jì)后果的速度或失去控制,而是具有前所未有深度、廣度的洞見,以及依照信息行動(dòng)并從行動(dòng)中學(xué)習(xí)的能力。
然而,許多專家也承認(rèn)人工智能的使用存在一定的風(fēng)險(xiǎn)。這部分源于不確定性——畢竟在包括交易、投資組合管理和信用評(píng)估等許多應(yīng)用中,人工智能尚處于實(shí)驗(yàn)階段。因此,安全、隱私和數(shù)據(jù)質(zhì)量上還縈繞著算法出故障的風(fēng)險(xiǎn)和擔(dān)憂,這導(dǎo)致了對(duì)新的監(jiān)管的呼吁。
而人們甚至更擔(dān)憂人工智能的監(jiān)管對(duì)策。在監(jiān)管者是否存在足夠的知識(shí)和技能以跟上新的金融技術(shù)的問題上,本次調(diào)研的參與者明顯缺乏信心。事實(shí)上,調(diào)查參與者懷疑監(jiān)管者才剛剛開始了解人工智能對(duì)金融市場(chǎng)和公司的潛在影響。目前而言,他們關(guān)注的重點(diǎn)仍然是從教訓(xùn)中吸取經(jīng)驗(yàn)(fighting the last war ),識(shí)別人類直接濫用技術(shù)的違反合規(guī)行為。他們注意力開始轉(zhuǎn)向算法的正當(dāng)性,而這也是未來幾年制定任何關(guān)于機(jī)器學(xué)習(xí)規(guī)則的重點(diǎn)。
調(diào)查中,大量金融機(jī)構(gòu)對(duì)監(jiān)管機(jī)構(gòu)了解人工智能相關(guān)的法律風(fēng)險(xiǎn)上沒有信心。但鑒于人工智能在這些部門的使用處于初期階段,這可能也并不令人驚訝。比如,由于人工智能驅(qū)動(dòng)的模型能夠收集和分析更大體量的數(shù)據(jù),數(shù)據(jù)和隱私風(fēng)險(xiǎn)也將隨之增長(zhǎng)。知識(shí)產(chǎn)權(quán)糾紛也很有可能增加,因?yàn)樗惴ǖ乃袡?quán)會(huì)導(dǎo)致企業(yè)和監(jiān)管部門之間的摩擦。最后在人工智能出故障和編程錯(cuò)誤的可能事件中,合同和訴訟風(fēng)險(xiǎn)也會(huì)涌現(xiàn)。