1977年五子棋的世界衛(wèi)冕冠軍Luigi Villa不敵人工智能，這是人類歷史上某領域頂尖人物第一次輸給人工智能。而到了2016年，人工智能Alpha Go已經(jīng)可以在最為復雜的棋類游戲圍棋中4：1完勝世界排名第二的選手。人工智能自誕生至今已50余年，科學家們驚嘆于它高速的成長，也對此感到焦慮。“人工大腦之父” 雨果德加里斯曾在《智能簡史》一書中提到“人工智能已經(jīng)在神經(jīng)和智能上產(chǎn)生了指數(shù)級的初級進化,并在將來某一天達到奇點狀態(tài),最終失去控制，以人類無法想象的速度自我進化，最終超越人類智能。”為何眾多科技名人都對人工智能的未來如此惶恐？
弱人工智能的現(xiàn)狀
3月24日，微軟推出的Twitter人工智能聊天機器人Tay（@tayandyou）在人類24小時的調(diào)教下，分分鐘變成了滿嘴臟話、陰謀論愛好者、希特勒崇拜者和迷戀亂倫。
目前的人工智能還只是人類肢體的延伸，是部分機能的精細化。根據(jù)程序員之前設定好的觸發(fā)條件及應答內(nèi)容，一旦條件觸發(fā)就會執(zhí)行指令。當下的人工智能對外界的信息沒有自主意識，不會直接從周圍環(huán)境中汲取所需，僅僅是在人類給定的范圍內(nèi)，根據(jù)人類編譯好的指令去對外界信息進行計算、分析。所以并不真正擁有智能它或許看起來精通各國語言，但其實只是對照設定好的字母表與辭典完成了翻譯，它算懂語言嗎？并不。
人工智能是人類自我認知的進程，需要對哲學、心理學、生物學、系統(tǒng)學、社會學、信息學、計算機科學高度發(fā)展融合。目前來看，即使人工智能的能力在今后的發(fā)展中得到非常大的提升,這樣的提升也僅僅是知識量的增加、運算速度提高和運算范圍的擴大。但真的是如此嗎？人工智能是否能一直為人所控？
計算存在著不可控性
Mathematica（一款很強大的科學計算軟件）之父Stephen Wolfram曾在Ted Talk中提及到過一個十分有趣的現(xiàn)象計算的不可控性。當我們從一個簡單的圖形奇點出發(fā)，按照一定的運算規(guī)律進行組合，一般都可以得到一個規(guī)律、可簡化的圖形（如圖一）。然而也有一些簡單的圖形，在通過同樣的演算之后，演化成了毫無規(guī)律、且完全不可簡化與逆轉(zhuǎn)出初始形狀的圖形（如圖二）。
計算存在著不可控，不可簡化與不可逆的特性。人工智能的認知基礎即為計算，故也應存在著一個臨界點，就像這個能引發(fā)不規(guī)則變異的圖形一樣（圖二），一旦觸發(fā)，其后期的發(fā)展態(tài)勢，將完全不受人類的控制，過程也將變得不可逆。
那當人工智能變得不可控，轉(zhuǎn)化成為強人工智能，人類是否必輸無疑？答案是yes。
比起人工智能，我們輸在哪里
人類在生理構(gòu)造上的局限性，無論從腦部構(gòu)造、身體機能上都存在著十分大的局限性。而人工智能不論在計算的速度、精確度方面，還是信息存儲量及傳輸速度方面，都遠勝人腦。
而且一直以來，我們都將人工智能看做人類自我認識的產(chǎn)物，將它的發(fā)展認為是人類自我認識的過程，我們將其看作是“人類靈魂的復制”。評判人工智能的智力程度，也是通過理解人類事物的程度來進行區(qū)分，即一切都以“以人類為中心”。
然而，我們是否有想過，人工智能一旦進化，其實可以自成一套汲取知識的體系。數(shù)學作為揭示世間萬物不為人知的真相的根基，人類通過自己的理解、運算、語言方式復雜化后，再重新翻譯成數(shù)理輸入到人工智能中。假設當人工智能完成進化，它將省略人類翻譯這個步驟，自行用數(shù)理去演算一切，再加之其強大的計算能力，能對世界進行指數(shù)級爆炸般的運算理解。而人類由于其社會性，在知識的獲取上存在著很大的限制，一直以來人類都需要大量的實踐去積累知識，消耗的時間與精力自然遠大于人工智能。