2009年，在某個(gè)競技場中，瑞士研究人員放置了數(shù)百臺(tái)機(jī)器人，機(jī)器人身上的程序讓它們?cè)诟偧紙鲋袑ふ乙粋€(gè)淺色的圓環(huán)(實(shí)驗(yàn)中的食物)。這些機(jī)器人相互可以溝通，機(jī)器人會(huì)向同伴發(fā)送藍(lán)光告訴其他機(jī)器人食物的位置。但是隨著實(shí)驗(yàn)進(jìn)行，研究人員發(fā)現(xiàn)某些找到食物的機(jī)器人停止閃光、獨(dú)占資源——而源程序根本沒有指示它們這么做。這到底是機(jī)械故障，還是機(jī)器人學(xué)會(huì)了撒謊？

　　今天的計(jì)算機(jī)可以完成越來越復(fù)雜的任務(wù)，已經(jīng)具備了接近人類的智能。超級(jí)并行計(jì)算機(jī)“深藍(lán)”在“人機(jī)大戰(zhàn)”中戰(zhàn)勝國際象棋世界冠軍卡斯帕羅夫；IBM的超級(jí)計(jì)算機(jī)“沃森”贏得了智力競賽節(jié)目“危險(xiǎn)邊緣”；微軟的Xbox游戲機(jī)甚至可以通過分析玩家的面部表情評(píng)估玩家當(dāng)前的情緒……一旦出現(xiàn)“超級(jí)智能”，即計(jì)算機(jī)能夠自己思考而非僅僅對(duì)命令進(jìn)行反應(yīng)，并且計(jì)算機(jī)不僅僅在數(shù)學(xué)和科學(xué)能力上超過人類，而且在藝術(shù)創(chuàng)造性甚至是社會(huì)技能領(lǐng)域也大大超過人腦，人類享受空前便利又會(huì)遭遇什么風(fēng)險(xiǎn)呢？《超級(jí)智能》對(duì)此進(jìn)行了饒有趣味的思索與探討。人類大腦擁有一些其他動(dòng)物大腦沒有的功能，正是這些獨(dú)特的功能使我們的種族得以擁有主導(dǎo)地位。如果機(jī)器大腦在一般智能方面超越了人類，那么這種新興的超級(jí)智能可能會(huì)極其強(qiáng)大，并且有可能無法控制。超級(jí)智能對(duì)我們?nèi)祟悓⑹且粋€(gè)巨大的威脅。

　　作者根據(jù)海量信息資料分析認(rèn)為，與人類智能水平并駕齊驅(qū)的機(jī)器智能有相當(dāng)大的可能在21世紀(jì)中葉實(shí)現(xiàn)，可能會(huì)更早，也可能會(huì)更晚；但是只要這種機(jī)器智能出現(xiàn)，就會(huì)很快出現(xiàn)超越人類智能水平的高級(jí)智能；這會(huì)對(duì)人類生存產(chǎn)生極其重大的影響，或是產(chǎn)生極好的影響，或是造成人類滅絕。不管怎樣，這都說明我們很有必要去認(rèn)真研究人工智能這個(gè)議題。

　　對(duì)于如何控制超級(jí)智能，作者提出了兩大路徑。一為能力控制，分為四類：盒子方法（系統(tǒng)受到限制，只能夠通過有限制的、提前批準(zhǔn)的渠道對(duì)外界產(chǎn)生影響，包括物理遏制和信息遏制兩種方法）；激勵(lì)方法（系統(tǒng)被放置在提供適當(dāng)激勵(lì)的環(huán)境中）；阻礙發(fā)展（對(duì)系統(tǒng)的認(rèn)知能力或影響關(guān)鍵內(nèi)部過程的能力進(jìn)行限制）；絆網(wǎng)（對(duì)系統(tǒng)進(jìn)行診斷測試，如果探測到系統(tǒng)有危險(xiǎn)行為，就將其關(guān)閉）。二為動(dòng)機(jī)選擇，也分為四類：直接規(guī)定（系統(tǒng)裝載直接規(guī)定的動(dòng)機(jī)系統(tǒng)）；馴化（設(shè)計(jì)一套動(dòng)機(jī)系統(tǒng)，嚴(yán)格限制超級(jí)智能的目標(biāo)和行為范圍）；間接規(guī)范（依靠間接手段來確定需要被遵守的規(guī)則和需要被追求的價(jià)值）；擴(kuò)增（選擇一個(gè)已經(jīng)具有類似人類的、友好的動(dòng)機(jī)系統(tǒng)，對(duì)其認(rèn)知能力進(jìn)行提升，使其成為超級(jí)智能）。作者提說控制超級(jí)智能的方法聽起來或許因?yàn)樘^專業(yè)而不夠通俗易懂，然而我們只要明白一點(diǎn)就可以了，那就是在超級(jí)智能出現(xiàn)之前，人類需要做好應(yīng)對(duì)準(zhǔn)備，而當(dāng)超級(jí)智能出現(xiàn)，人類應(yīng)該可以找到控制辦法。

　　擔(dān)憂超級(jí)智能出現(xiàn)會(huì)給人類帶來毀滅性災(zāi)難，作者并非杞人憂天。盡管微軟研究院科學(xué)家表示：“很多人擔(dān)憂某一天我們會(huì)失去對(duì)人工智能機(jī)器的控制，但我完全不擔(dān)心這種情況發(fā)生?！钡?，很多專家表達(dá)出與作者同樣的憂慮。英國物理學(xué)家史蒂文·霍金稱，人工智能的完美就意味著人類的滅亡；特斯拉埃隆·馬斯克也聲稱，人工智能的出現(xiàn)是在“召喚魔鬼”；比爾·蓋茨也憂心忡忡：“我站在警惕人工智能的陣營一方……我很不理解，為什么會(huì)有人完全不擔(dān)憂人工智能……”

　　既然這么多權(quán)威人士表示出擔(dān)憂，我們有必要未雨綢繆提前應(yīng)對(duì)，要想到超級(jí)智能一旦出現(xiàn)，人類該如何控制，既充分享受其帶來的便利，又能免除它給人類帶來的潛在威脅，這或許也是該書警世意義所在。

　　筆者對(duì)超級(jí)智能持樂觀態(tài)度。首先，很多計(jì)算機(jī)科學(xué)家認(rèn)為我們不會(huì)迎來注定的毀滅，相反他們質(zhì)疑人類是否能夠真正實(shí)現(xiàn)人工智能。他們認(rèn)為光是理解人腦，人類已經(jīng)走過了漫長的研究道路——包括意識(shí)本身是什么這個(gè)問題——更別提將這些知識(shí)用來打造一臺(tái)有感情和自我意識(shí)的機(jī)器。雖然今天最強(qiáng)大的計(jì)算機(jī)可以用算法贏得國際象棋大賽，可以贏得競猜電視節(jié)目，可我們還無法創(chuàng)作出能夠?qū)懗龈腥说脑娮?，能夠判斷是非的機(jī)器人——要制造出完全掌握人類技能的機(jī)器人還很遙遠(yuǎn)。其次，超級(jí)智能終歸屬于程序系統(tǒng)，而不是像人一樣的自由思維系統(tǒng)，超級(jí)智能能量始終受人控制，它并不具備自我主動(dòng)開拓能力。再次，超級(jí)智能的生命取決于人的控制，假如把超級(jí)智能比作翱翔藍(lán)天的風(fēng)箏，那么人的控制就是系在風(fēng)箏身上的那根線繩。風(fēng)箏一旦脫離線繩，結(jié)果可想而知。