近日，英國理論物理學家霍金語出驚人，預言人工智能科技如果不加控制地發(fā)展，將超越人類智能，并控制或滅絕人類。無獨有偶，牛津大學哲學教授、人類未來研究所創(chuàng)建者博斯特羅姆近日也指出，超級人工智能是人類未來最大的存在風險，其風險性高于自然災害、環(huán)境惡化、流行疾病。

　　兩位英國學者的觀點是否合理？人工智能會不會發(fā)展到人類無法駕馭的超級智能階段？記者采訪了研究人工智能哲學的復旦大學哲學學院教授徐英瑾。

　　徐英瑾介紹，人工智能學科緣起于一篇經(jīng)典論文和一次重要會議。

　　1950年，英國數(shù)學家、邏輯學家、計算機科學理論奠基人圖靈在《心智》雜志發(fā)表論文《計算機器和智能》，提出了著名的“圖靈測試”——如果一臺機器能夠與人展開對話（通過電傳設(shè)備），并且會被人誤以為它也是人，那么這臺機器就具有智能。

　　顯然，這是一個帶有行為主義色彩的“人工智能”定義，因為該定義沒有從機器內(nèi)部機制著手，而是通過其外在行為來判斷它是否具有智能。其好處是，繞開了“智能的本質(zhì)”這個眾說紛紜的問題，給人工智能發(fā)展設(shè)定了一個目標：開發(fā)出能通過圖靈測試的機器。

　　1956年，一群學者在美國達特茅斯學院參加會議，探討如何利用問世不久的計算機實現(xiàn)人類智能。會議籌備期間，后來獲得計算機科學最高獎——圖靈獎的麥卡錫提議用“Artificial Intelligence”（人工智能）一詞來稱呼這門新興學科，得到了與會者認同。在這次會議上，學者們討論了如何在人類智能水平上實現(xiàn)機器智能，而不是用特定算法解決一些具體問題。舉個例子，IBM公司研制的“深藍”計算機能夠在與國際象棋世界冠軍卡斯帕羅夫的對弈中勝出，但并不能由此認為“深藍”擁有了超級人工智能。這是因為，它只是在某個方面的能力上超過人類，而且無法通過圖靈測試。

　　如果霍金擔心的超級計算機有朝一日問世，那它必定在綜合思維能力上超出人類，這樣才可能擁有“僭越”的想法，以及控制或消滅人類的能力。

　　霍金警示的風險理論上存在

　　值得“慶幸”的是，目前，人工智能的全球領(lǐng)先水平與超級人工智能相去甚遠。學術(shù)界普遍認為，世界上還沒有機器能通過圖靈測試。

　　對于這一現(xiàn)狀，有三種回應(yīng)觀點——

　　第一種觀點是：圖靈、司馬賀等人工智能學科元老提出的全面模擬人類智能的想法，太好高騖遠。這種玄想或許在未來會成真，但目前為實現(xiàn)這個想法做研究，純屬浪費精力。業(yè)界目前應(yīng)做一些踏實的人工智能研究，滿足于制造解決特殊問題的求解器。徐英瑾發(fā)現(xiàn)，許多人工智能業(yè)內(nèi)人士持這一觀點。由此可見，霍金的警告有點杞人憂天的味道。

　　第二種觀點是：全面實現(xiàn)人類智能的機器是不可能造出來的，就像造不出永動機一樣。學者們提出過多種論證，試圖從哲學、邏輯層面論證這種不可能性，其中非常著名的有美國哲學家塞爾提出的“漢字屋論證”（也稱“中文房間思想實驗”）以及英國理論物理學家、數(shù)學家彭羅斯提出的“從哥德爾不完備性定理出發(fā)的論證”，但這些論證都遭到了學術(shù)界反駁。徐英瑾認為，“漢字屋論證”和彭羅斯的論證都是站不住腳的，超級人工智能并沒有在理論上“被判出局”。

　　第三種觀點與第一種有相近之處，認為全面實現(xiàn)人類智能的機器是能夠造出來的，但難度很大。如果當下的人工智能研究路子不改變，那么點滴成果的積累也未必能質(zhì)變?yōu)槿嫱黄?。“我持這種觀點?！毙煊㈣f，“所以我認為霍金、博斯特羅姆警示的風險從理論上來說是存在的，但在未來相當長時間內(nèi)不會成為現(xiàn)實。”

　　大數(shù)據(jù)技術(shù)有先天缺陷

　　在這位復旦學者看來，如今十分熱門的大數(shù)據(jù)技術(shù)，一旦過度應(yīng)用于人工智能領(lǐng)域，就是一條錯誤的路子。

　　大數(shù)據(jù)技術(shù)催生了數(shù)據(jù)科學。與傳統(tǒng)的科學研究范式不同，數(shù)據(jù)科學不再追求因果關(guān)系，而是按照“樣本=總體”的思路對海量數(shù)據(jù)進行深入挖掘和統(tǒng)計分析，尋求各個事物間的相關(guān)性。很多時候，大數(shù)據(jù)統(tǒng)計出的是“2+2=3.9”這類近似結(jié)果，精確度上的略微損失，換來了對事物間相關(guān)關(guān)系的準確預測。

　　徐英瑾認為，大數(shù)據(jù)分析是西方經(jīng)驗論哲學在當代的一種表現(xiàn)形式。近代西方哲學分為兩大流派：經(jīng)驗論和唯理論。經(jīng)驗論認為，人的感性經(jīng)驗是一切知識和觀念的唯一來源；唯理論與之針鋒相對，認為具有普遍必然性的知識并非來自經(jīng)驗，而是來自人與生俱來的理性。大數(shù)據(jù)研究范式推崇海量數(shù)據(jù)的采集，那些用于數(shù)據(jù)采集的攝像頭、傳感器等設(shè)備好比人類感官的延伸；還推崇大樣本的統(tǒng)計學分析，用它取代因果分析。這種看重經(jīng)驗采集、貶低理性推理的模式背后，正是經(jīng)驗論哲學觀。

　　就像經(jīng)驗論有其局限性一樣，大數(shù)據(jù)分析也有局限。以基于大數(shù)據(jù)技術(shù)的“谷歌翻譯”為例，這種人工智能系統(tǒng)的研發(fā)團隊沒有通過編程定義語法規(guī)則，因為完善的語法編程目前還無法實現(xiàn)。他們采用的主要技術(shù)方案，是利用大數(shù)據(jù)統(tǒng)計不斷調(diào)整翻譯結(jié)果的相關(guān)性，優(yōu)化翻譯結(jié)果。這樣做的好處是，翻譯系統(tǒng)會隨著數(shù)據(jù)的積累而不斷改善。但目前，使用“谷歌翻譯”的結(jié)果只能幫助人們大致理解陌生語言，有時候得到的翻譯結(jié)果很不通順。“大數(shù)據(jù)翻譯系統(tǒng)缺少深層語法結(jié)構(gòu)，這種結(jié)構(gòu)好比唯理論看重的先天理性，缺少了它，人工智能系統(tǒng)就無法譯出完善的自然語言?！毙煊㈣f。

　　而讓機器“說”出人們在日常生活中說的自然語言，正是圖靈測試所要求的。在人工智能領(lǐng)域，“自然語言處理”占有重要地位，已發(fā)展成一個相對獨立的研究領(lǐng)域。蘋果手機的Siri、上海企業(yè)開發(fā)的小i機器人，都是應(yīng)用自然語言處理技術(shù)的人工智能產(chǎn)品。有興趣的讀者可以對 Siri 和小 i 機器人進行圖靈測試，看看它們的回答是否像人。

　　讓機器人服從“絕對命令”

　　在好萊塢電影《梯陣陰謀》中，美國國安局設(shè)置的超級計算機Echelon（梯陣），能通過調(diào)取、分析每個公民的各類信息，進行行為監(jiān)控，還可以向人們的手機發(fā)送短信，達到不可告人的目的。

　　這種超級人工智能如果在未來成為現(xiàn)實，人類社會將毫無隱私可言。影片結(jié)尾，找到Echelon的男主角向它提問：你的宗旨是什么？Echelon的回答是“保護美國公民的自由權(quán)益”。經(jīng)過一番人機對話，這臺計算機“幡然悔悟”，將自身的監(jiān)視程序刪除了。

　　博斯特羅姆認為，科幻電影和小說中常見的自毀程序橋段，并不是解除超級人工智能威脅的最佳方案。他指出，“我們并不是要永遠抑制超級智能，或不開發(fā)行動自由的超級智能?！庇嬎銠C程序的“動機選擇問題”必須得到解決。一種解決方案是將機器的目標模糊化。例如，如果想要它幫助醫(yī)生治療某種疾病，可以將目標設(shè)為“做有利于人類健康的事”。另一種解決方案是使人工智能更人性化，為其編入同情和利他主義程序。

　　這兩種方案，都與科幻小說家阿西莫夫提出的“機器人三定律”相通。三條定律分別是：第一法則：機器人不得傷害人類，或坐視人類受到傷害；第二法則：除非違背第一法則，機器人必須服從人類的命令；第三法則：在不違背第一和第二法則的情況下，機器人必須保護自己?！斑@堪稱機器人版的‘絕對命令’學說。哲學家康德提出的‘絕對命令’要求，人應(yīng)該在任何情況下把自己和他人當作目的，而非手段?！毙煊㈣u論道，“未來出現(xiàn)超級人工智能后，應(yīng)將這種機器人倫理以立法形式確立下來，防止瘋狂的科學家開發(fā)出旨在控制甚至毀滅人類的機器?！?

　　相關(guān)鏈接

　　漢字屋論證

　　一個母語是英語、對漢語一竅不通的人，呆在一間只有一個開口的封閉房間里。屋內(nèi)有一本用英文寫的說明漢語語法和漢字組合規(guī)則的手冊，以及一大堆漢字符號。屋外的人不斷向屋內(nèi)遞進用漢字寫成的問題。屋子里的人便按照手冊上的說明，將漢字符號組合成對問題的解答，并將答案遞出房間。

　　在這個思想實驗中，屋內(nèi)人相當于計算機，手冊相當于計算機程序。塞爾想以此證明，正如屋內(nèi)人不可能通過手冊理解漢語一樣，計算機不可能通過程序獲得理解力，即馮·諾依曼型計算機不可能具備強人工智能。