算法可能在各個(gè)方面出現(xiàn)問(wèn)題。一個(gè)最常見(jiàn)的錯(cuò)誤就是「過(guò)度擬合」，通常發(fā)生在一個(gè)算法過(guò)于復(fù)雜并缺乏合理假設(shè)時(shí)。在這種情況下它們無(wú)法從大量無(wú)關(guān)數(shù)據(jù)中（噪聲）分辨出有用的相關(guān)性（信號(hào)），而是識(shí)別出了「幽靈」參數(shù)或似是而非的相關(guān)性。想象一下用一個(gè)敏感的麥克風(fēng)對(duì)古典音樂(lè)會(huì)錄音。過(guò)度擬合將把周?chē)谋尘霸胍粢暈榕c管弦樂(lè)隊(duì)發(fā)出的聲音同等重要。就像 Babak Hodjat 所警示的，「人們可能錯(cuò)誤的使用機(jī)器學(xué)習(xí)并且不做檢驗(yàn)。如果你使用一個(gè)機(jī)器學(xué)習(xí)算法但沒(méi)有充分檢驗(yàn)它，那可能就會(huì)存在一些過(guò)度擬合，使算法今天看上去不錯(cuò)，但明天就可能會(huì)大錯(cuò)特錯(cuò)。這是需要仔細(xì)檢查的?！?/p>
程序錯(cuò)誤風(fēng)險(xiǎn)提高了使用新程序的壓力。像之前提到的，差異化對(duì)于一個(gè)人工智能交易員的成功是很關(guān)鍵的。做出第一款成功的應(yīng)用，機(jī)構(gòu)將得到一個(gè)獨(dú)一無(wú)二的可以盈利的機(jī)會(huì)——一個(gè)沒(méi)有競(jìng)爭(zhēng)的市常接下來(lái)的風(fēng)險(xiǎn)就是其他機(jī)構(gòu)將在市場(chǎng)上應(yīng)用這個(gè)成功的策略。谷歌前工程師，目前任機(jī)器智能研究機(jī)構(gòu)（Machine Intelligence Research Institute）研究人員的 Nate Soares 在接受金融時(shí)報(bào)采訪時(shí)稱，「將足夠強(qiáng)大的保障措施編入高級(jí)人工智能，只有5%的可能性?！?/p>
2）數(shù)據(jù)、責(zé)任和法律風(fēng)險(xiǎn)
機(jī)構(gòu)是否已了解與新型金融科技相關(guān)的法律風(fēng)險(xiǎn)目前還有很大不確定性：有47%的被調(diào)查者對(duì)此沒(méi)信心。Price 先生并不驚訝?！冈蛟谟谶@種技術(shù)還處于初期階段，而且還在不斷進(jìn)步。人們對(duì)可能的風(fēng)險(xiǎn)感到謹(jǐn)慎和些許不確定也正是反映了這種技術(shù)處于初期階段。」
一個(gè)風(fēng)險(xiǎn)是公司責(zé)任。做出糟糕的投資決策可能是由于數(shù)據(jù)質(zhì)量差、對(duì)公司業(yè)績(jī)分析失誤、或算法有瑕疵，這都會(huì)引起投資者大幅虧損。機(jī)器學(xué)習(xí)模型對(duì)信用風(fēng)險(xiǎn)做出糟糕的決策時(shí)：出借方可能遭受財(cái)務(wù)損失、或潛在融資方的聲譽(yù)受損，責(zé)任問(wèn)題就可能出現(xiàn)。當(dāng)這種情形發(fā)生時(shí)由誰(shuí)承擔(dān)責(zé)任目前還不明晰——金融機(jī)構(gòu)自身、算法的作者、交易平臺(tái)、數(shù)據(jù)提供者、或是其他人？
機(jī)器學(xué)習(xí)的智能及數(shù)據(jù)處理特性也可能使數(shù)據(jù)保護(hù)和隱私風(fēng)險(xiǎn)達(dá)到另一個(gè)高度。個(gè)人投資數(shù)據(jù)或敏感的公司數(shù)據(jù)無(wú)論因?yàn)槭鹿剩ū缓诳瞳@取）還是因?yàn)橹贫龋ū皇袌?chǎng)管理者和政府獲?。┒淙肫渌耸种?，都是互聯(lián)網(wǎng)時(shí)代的一個(gè)非常常見(jiàn)的風(fēng)險(xiǎn)。當(dāng)機(jī)器學(xué)習(xí)模型為達(dá)到更好效果而收集更多的數(shù)據(jù)時(shí)，這種風(fēng)險(xiǎn)也將隨之增大。機(jī)構(gòu)將越來(lái)越需要了解數(shù)據(jù)隱私與消費(fèi)者保護(hù)法規(guī)之間的緊密聯(lián)系，以及擴(kuò)大的法律管轄范圍，例如歐盟Cookie指令（EU Cookie directive）。貝克·麥堅(jiān)時(shí)律師事務(wù)所（Baker & McKenzie）合伙人 Adrian Lawrence 預(yù)計(jì)獲取數(shù)據(jù)的能力將對(duì)人工智能系統(tǒng)的范圍及影響起著核心作用，她稱「數(shù)據(jù)，及使用和獲取數(shù)據(jù)的各類規(guī)則及過(guò)程，位于具有顛覆性的金融科技領(lǐng)域的核心位置。即使是最先進(jìn)和最智能的算法及模型在不能有效、安全和合法的獲取詳細(xì)、準(zhǔn)確、及時(shí)的數(shù)據(jù)時(shí)，也將變得毫無(wú)用處」。
除了法律風(fēng)險(xiǎn)，這些被調(diào)查者對(duì)于他們所在的機(jī)構(gòu)是否了解人工智能的影響也是明顯缺乏信心。49%的被調(diào)查者不能確定他們的機(jī)構(gòu)了解了人工智能的其他重大風(fēng)險(xiǎn)。只有32%是確定的?？紤]到這項(xiàng)應(yīng)用還處于早期發(fā)展階段，這項(xiàng)調(diào)查表明人工智能將會(huì)向機(jī)構(gòu)展示出一系列風(fēng)險(xiǎn)，而其中的大部分還尚未定義。
3）對(duì)人工智能的過(guò)度依賴
通過(guò)這些例子，調(diào)查受訪者似乎希望機(jī)器學(xué)習(xí)將幫助他們?cè)谀承┣闆r下降低風(fēng)險(xiǎn)。近六成（58%）的人認(rèn)為機(jī)器學(xué)習(xí)將「大大提升」他們的風(fēng)險(xiǎn)評(píng)估流程。比如，機(jī)器學(xué)習(xí)技術(shù)可以被用來(lái)警示基金經(jīng)理去關(guān)注他們已投的企業(yè)中新出現(xiàn)的一些弱點(diǎn)（參見(jiàn)上圖「了解外匯風(fēng)險(xiǎn)預(yù)測(cè)收益」）。
來(lái)自 Baker & McKenzie 的 Astrid Raetze 還期望消費(fèi)信貸風(fēng)險(xiǎn)評(píng)估可以通過(guò)對(duì)客戶進(jìn)行更全面的風(fēng)險(xiǎn)剖析來(lái)加強(qiáng)。Raetze 女士表示，「如果能得到正確的部署，人工智能也可以在一些領(lǐng)域降低一定的風(fēng)險(xiǎn)。市場(chǎng)失當(dāng)行為，反洗錢(qián)（AML）行為和了解你的客戶（KYC）行為都是地方監(jiān)管機(jī)構(gòu)可以利用人工智能來(lái)改進(jìn)監(jiān)管和審查的?！够跈C(jī)器學(xué)習(xí)的分析也可以識(shí)別某些客戶活動(dòng)的具體方式，甚至可能辨別某種形式的瀆職。這有助于解釋為什么相對(duì)于其他領(lǐng)域，受訪者更希望能在未來(lái)三年內(nèi)，機(jī)器學(xué)習(xí)能應(yīng)用在風(fēng)險(xiǎn)評(píng)估領(lǐng)域。