可以預(yù)見，現(xiàn)有的法律法規(guī)未必適應(yīng)未來的人工智能新型應(yīng)用模式，會對人工智能的快速發(fā)展構(gòu)成阻礙，但在出現(xiàn)人工智能應(yīng)用的重大缺陷或者安全隱患時(shí)，也沒有相關(guān)法規(guī)和條例指導(dǎo)政府機(jī)構(gòu)合理合法地規(guī)避人工智能的發(fā)展風(fēng)險(xiǎn)。
大眾一般認(rèn)為，新技術(shù)的研發(fā)是難度最大的，應(yīng)用及監(jiān)管與研發(fā)相比難度就會低很多。但對于將深遠(yuǎn)影響人類社會運(yùn)營方式的人工智能來說，情況或許正好相反。
人工智能的潛在缺陷與控制
目前基于人工智能所開發(fā)的自動控制、模式識別和機(jī)器學(xué)習(xí)系統(tǒng)，其實(shí)都是人工智能領(lǐng)域非常初級的部分，往往需要研發(fā)團(tuán)隊(duì)針對實(shí)際應(yīng)用場景設(shè)置重要先決條件，以降低人工智能系統(tǒng)的判別難度并提高準(zhǔn)確率。
當(dāng)各種極客型的技術(shù)人員大開腦洞采用人工智能技術(shù)研發(fā)各種黑科技時(shí)，他們的關(guān)注范圍是非常聚焦的，即按照最優(yōu)條件下設(shè)想人工智能的應(yīng)用范圍和場景，較少考慮相關(guān)技術(shù)在復(fù)雜條件甚至人為濫用的情況下面臨的困境。這往往也為人工智能潛在的不當(dāng)使用埋下了伏筆。
人工智能作為信息化系統(tǒng)，一定會受到自身設(shè)計(jì)的局限和開發(fā)質(zhì)量的影響。再加上人工智能在識別和判斷時(shí)需要基于人工設(shè)置和歷史數(shù)據(jù)，通過精心設(shè)計(jì)的訓(xùn)練過程才能得到基于概率的判別結(jié)果。所以對于人工智能系統(tǒng)，在特定前提或應(yīng)用場景下作出錯誤決策是100%會出現(xiàn)的。
作為政府和監(jiān)管部門，面臨的第一個重要問題就是系統(tǒng)錯誤決策所引起的財(cái)產(chǎn)損失甚至人身傷亡該如何判定責(zé)任與承擔(dān)賠償，甚至要能夠提出合理的原則，區(qū)分哪些錯誤決策是小概率事件本身引發(fā)的，哪些錯誤決策是由于系統(tǒng)設(shè)計(jì)、訓(xùn)練數(shù)據(jù)和訓(xùn)練過程存在問題所導(dǎo)致的。
2016年2月14日，上路試驗(yàn)已經(jīng)六年的谷歌自動駕駛汽車第一次由于系統(tǒng)“誤判”導(dǎo)致了交通事故。谷歌公司表示自動駕駛汽車在這次輕微車禍中承擔(dān)“部分責(zé)任”。由此可見，當(dāng)時(shí)的谷歌自動駕駛系統(tǒng)在特定場景下觸發(fā)了一個錯誤決策。
可以想象，當(dāng)自動駕駛汽車全面行駛在大街小巷時(shí)，系統(tǒng)的微小錯誤導(dǎo)致的責(zé)任事故會基于巨大的汽車保有量而放大成為一個引人注目的數(shù)字。由此而引起的責(zé)任劃定和賠償也會由于人工智能和人類行為的混合作用而變得異常復(fù)雜。
另一個廣為人知的應(yīng)用缺陷就是公平性問題。2016年哈佛大學(xué)肯尼迪學(xué)院發(fā)布的分析報(bào)告指出，目前針對犯罪傾向性預(yù)測的人工智能系統(tǒng)，無論技術(shù)人員如何調(diào)整機(jī)器學(xué)習(xí)的策略和算法，人種膚色都成為無法抹去的高優(yōu)先識別變量。人工智能系統(tǒng)評估結(jié)果出現(xiàn)了明顯的對黑人群體的偏見，這是現(xiàn)階段人工智能技術(shù)手段無法避免的，也是人工智能系統(tǒng)廣泛應(yīng)用于現(xiàn)有社會環(huán)境并為社會大眾所接受的一個重要的障礙。
在以上問題沒有經(jīng)過實(shí)踐驗(yàn)證的法律支持和監(jiān)管框架管理下，人工智能的全面應(yīng)用很有可能帶來相關(guān)領(lǐng)域社會活動的混亂并造成意想不到的后果。
逐步建立的人工智能監(jiān)管
美國政府對于人工智能的廣泛應(yīng)用和相關(guān)監(jiān)管框架一直保持關(guān)注，并在特定領(lǐng)域開始小范圍的實(shí)踐。
以人工智能領(lǐng)域目前相對成熟且應(yīng)用前景廣闊的自動駕駛為例，企業(yè)能夠盡快推進(jìn)自動駕駛技術(shù)開發(fā)的重要原因，是在制度方面得到了美國政府的大力支持。
2012年5月，美國內(nèi)華達(dá)州汽車管理局為谷歌自動駕駛汽車發(fā)放了美國首張自動駕駛車輛許可證，此前內(nèi)華達(dá)州議會通過了允許自動駕駛車輛上路的法條。八個月后谷歌又在加利福尼亞州取得了許可證。
隨之而來，奧迪和豐田也先后在美國的一些州拿到了實(shí)驗(yàn)許可證并開展公路測試。一時(shí)間，美國成為各國企業(yè)爭先開展自動駕駛的試驗(yàn)田，加速了自動駕駛技術(shù)的成熟。
雖然美國交通管理部門積極配合自動駕駛技術(shù)的測試和路試，但是對于正式的應(yīng)用許可還是采用非常審慎的態(tài)度。2014年10月，加州車輛管理局同時(shí)頒發(fā)了29張自動駕駛汽車公共道路測試許可證，分別給了谷歌、戴姆勒、大眾三家公司，獲得許可的條件之一是人可以隨時(shí)干預(yù)汽車駕駛，以確保在人工智能廣泛測試和安全性之間取得平衡。