在上海世界人工智能大會(huì)的一場(chǎng)科學(xué)前沿的全體大會(huì)上，與會(huì)專家都關(guān)注到隱私保護(hù)和倫理的問(wèn)題，以及機(jī)器學(xué)習(xí)算法的公平性。

在人工智能隱私保護(hù)方面，自動(dòng)駕駛技術(shù)的安全隱私是最受關(guān)注的。馬斯克在大會(huì)上表示：“自動(dòng)駕駛的發(fā)展趨勢(shì)不可阻擋，關(guān)鍵問(wèn)題是安全性如何。這意味著你想要在99.99%后面再加上幾個(gè)9，才能被接受。”

馬斯克表示，盡管自動(dòng)駕駛技術(shù)在硬件上已經(jīng)很大程度上準(zhǔn)備好了，但是仍然有很多軟件的細(xì)節(jié)需要完善和提升，從而防止出現(xiàn)可能的安全問(wèn)題。

對(duì)此，自動(dòng)駕駛領(lǐng)域?qū)＜?、悉尼科技大學(xué)副校長(zhǎng)張成奇教授認(rèn)為，自動(dòng)駕駛技術(shù)是人工智能落地時(shí)，隱私問(wèn)題暴露最為明顯的應(yīng)用。“自動(dòng)駕駛的研究有三個(gè)方面，第一是單車的研究，第二是多車的協(xié)同調(diào)度，第三個(gè)方面非常重要，就是怎樣來(lái)防止黑客劫持你的自動(dòng)駕駛車輛，如果你的車被劫持了，你自己根本控制不了，這種情況下危險(xiǎn)就很大了，這就是技術(shù)的雙刃劍。”

他認(rèn)為，需要考慮有沒(méi)有黑客用自動(dòng)駕駛的技術(shù)，制造遠(yuǎn)程的武器。他還提到，除了技術(shù)問(wèn)題之外，人工智能的落地還需要得到法律的支持。“我覺(jué)得需要和心理學(xué)、社會(huì)學(xué)、法學(xué)等多個(gè)領(lǐng)域進(jìn)行交叉合作。”張成奇教授表示。

張成奇教授同時(shí)指出，盡管機(jī)器學(xué)習(xí)和隱私保護(hù)確實(shí)存在很大的實(shí)際矛盾，但已經(jīng)有研究表明，像聯(lián)盟學(xué)習(xí)這樣的方式既能保護(hù)隱私，又能提高技術(shù)。

除此之外，機(jī)器學(xué)習(xí)建模時(shí)數(shù)據(jù)的偏向性也可能影響人工智能的決策。中科院院士、計(jì)算機(jī)軟件專家何積豐在大會(huì)上強(qiáng)調(diào)了這一問(wèn)題。

何積豐院士表示：“基于帶有偏向性的數(shù)據(jù)所得出的數(shù)學(xué)模型，在實(shí)際做決策的時(shí)候，會(huì)有些不公平的東西，所以機(jī)器學(xué)習(xí)算法的公平性倍受關(guān)注，這是我們接下來(lái)需要討論的問(wèn)題。”

何積豐院士一直是人工智能網(wǎng)絡(luò)安全的倡導(dǎo)者。去年的上海世界人工智能大會(huì)上，他就對(duì)第一財(cái)經(jīng)記者表示：“人工智能要做高產(chǎn)值很容易，理論上一部分信息通信技術(shù)（ICT）行業(yè)的產(chǎn)值也可以算到人工智能領(lǐng)域。但要真正打造人工智能高地，讓人工智能服務(wù)于我們的社會(huì)經(jīng)濟(jì)，還有很多工作要做。”

他認(rèn)為，目前人工智能已經(jīng)發(fā)展成為新一代的人工智能，這將對(duì)安全性帶來(lái)更高的挑戰(zhàn)。“人們遇到了很多以前沒(méi)有碰到過(guò)的問(wèn)題，值得引起重視。”何積豐院士表示，“但我們很欣慰地看到，在各方的呼吁下，人工智能的安全受到了更高的關(guān)注度。”

何積豐院士還提倡將智能家居作為人工智能的一個(gè)理想的入口，為人工智能提供試錯(cuò)的環(huán)境，把生態(tài)建起來(lái)，因?yàn)檫@種試錯(cuò)的成本比較低。

對(duì)此，科大訊飛董事長(zhǎng)劉慶峰在上海世界人工智能大會(huì)的一場(chǎng)產(chǎn)業(yè)發(fā)展全體大會(huì)上表示：“我們?cè)谥v人工智能倫理，最重要的就是保護(hù)，隱私保護(hù)當(dāng)中，不光是法律的問(wèn)題，也要給用戶更多的選擇權(quán)。”

他表示，科大訊飛已經(jīng)支持了科技芯片，還與海爾合作了一個(gè)純離線的家庭音響，不聯(lián)網(wǎng)，充分保護(hù)用戶隱私。

“這得益于算法的持續(xù)優(yōu)化，同時(shí)對(duì)算法的運(yùn)算能耗進(jìn)行大幅裁減，使得更多低端芯片上可以在離線的時(shí)候滿足用戶的各種使用需求。”劉慶峰說(shuō)道。