新浪科技訊 北京時(shí)間3日消息，據(jù)國(guó)外媒體報(bào)道，2015年第一個(gè)星期天的下午，埃隆·馬斯克（Elon Musk）在波多黎各的一個(gè)度假勝地參加了一場(chǎng)有關(guān)“智力爆炸”（intelligence explosion）的閉門(mén)會(huì)議。這個(gè)略顯嚇人的理論詞匯描述的是人工智能在認(rèn)知能力上不受控制的飛躍，埃隆·馬斯克和物理學(xué)家斯蒂芬·霍金擔(dān)憂(yōu)，有朝一日這將給整個(gè)人類(lèi)帶來(lái)滅頂之災(zāi)。

　　這是一次有關(guān)人工智能倫理的會(huì)議，長(zhǎng)期以來(lái)，這一領(lǐng)域的專(zhuān)家、學(xué)者都不怎么引人注目。會(huì)議的主題是“人工智能的未來(lái)：機(jī)遇與挑戰(zhàn)”，顯得十分樂(lè)觀。牛津大學(xué)人工智能倫理學(xué)家尼可·博斯特倫（Nick Bostrom）與商業(yè)巨頭，如Skype的創(chuàng)始人揚(yáng)·塔里安（Jaan Tallinn）、谷歌公司人工智能專(zhuān)家謝恩·列格（Shane Legg）都參與了這次會(huì)議。

　　埃隆·馬斯克和霍金擔(dān)憂(yōu)“人工智能天啟”的到來(lái)，但目前還存在著更加迫在眉睫的威脅。在過(guò)去五年中，人工智能——特別是被稱(chēng)為“深層神經(jīng)網(wǎng)絡(luò)”的人工智能算法分支——的快速發(fā)展使人工智能主導(dǎo)的產(chǎn)品在我們的生活中越來(lái)越占據(jù)著中心和前沿的地位。谷歌、Facebook、微軟和百度等公司，都在以前所未有的速度尋找人工智能研究者，投入數(shù)以?xún)|計(jì)的美元，試圖開(kāi)發(fā)出更好的算法和更聰明的計(jì)算機(jī)。

　　幾年之前人們認(rèn)為似乎無(wú)法解決的人工智能難題如今逐漸被攻克，推動(dòng)了安卓系統(tǒng)的語(yǔ)音識(shí)別，使Skype能像《星際迷航》里那樣進(jìn)行即時(shí)的翻譯；谷歌公司正在研制自動(dòng)駕駛汽車(chē)，以及可以自動(dòng)學(xué)習(xí)如何分辨貓類(lèi)視頻的計(jì)算機(jī)系統(tǒng)；機(jī)器大狗如今的行走能力也越來(lái)越接近現(xiàn)實(shí)中的狗了。

　　“計(jì)算機(jī)視覺(jué)已經(jīng)開(kāi)始應(yīng)用；語(yǔ)音識(shí)別也開(kāi)始了應(yīng)用，人工智能系統(tǒng)有相當(dāng)快的發(fā)展速度，”參與會(huì)議的人工智能倫理學(xué)家、康奈爾大學(xué)教授巴特·塞爾曼（Bart Selman）說(shuō)，“這使得這一議題變得更加緊迫?！?

　　鑒于如此快速的發(fā)展，埃隆·馬斯克和其他許多人開(kāi)始向人工智能產(chǎn)品的開(kāi)發(fā)者發(fā)出呼吁：要考慮開(kāi)發(fā)過(guò)程中的倫理問(wèn)題。在這次波多黎各的會(huì)議上，代表們簽署了一封公開(kāi)信，承諾進(jìn)行目的健康、積極的人工智能研究，避免誤入歧途。埃隆·馬斯克也在公開(kāi)信上簽了名，“所有這些最優(yōu)秀的前沿研究者都認(rèn)為人工智能的安全問(wèn)題非常重要，”他說(shuō)，“我同意他們的意見(jiàn)?！?

　　 谷歌公司的雄心

　　九位來(lái)自DeepMind公司的研究者也在公開(kāi)信上簽了字。DeepMind是一家人工智能公司，去年被谷歌收購(gòu)。這個(gè)故事要從2011年開(kāi)始講起。當(dāng)時(shí)，德米斯·哈薩比斯（Demis Hassabis）在一次人工智能會(huì)議上做了演講，之后認(rèn)識(shí)了主動(dòng)前來(lái)自我介紹的揚(yáng)·塔里安。哈薩比斯剛剛創(chuàng)立了DeepMind，而塔里安在創(chuàng)立Skype之后，逐漸成了一個(gè)人工智能安全問(wèn)題的“布道者”，正在尋找一位志同道合的人。兩個(gè)人開(kāi)始談?wù)撈鹑斯ぶ悄?，塔里安很快就投資了DeepMind。去年，谷歌公司花了4億美元收購(gòu)了這家僅有50人的公司，一舉擁有了世界上最大的深度學(xué)習(xí)領(lǐng)域人才和專(zhuān)利庫(kù)。不過(guò)，谷歌還是顯得十分低調(diào)，甚至不讓哈薩比斯接受采訪。DeepMind正在進(jìn)行的研究包括對(duì)周?chē)h(huán)境具有更好感知能力的智能機(jī)器人和自動(dòng)駕駛汽車(chē)。

　　不過(guò)，這些研究卻讓揚(yáng)·塔里安有點(diǎn)擔(dān)心。他在此次波多黎各的會(huì)議上做了個(gè)演講，回憶起哈薩比斯在一個(gè)午餐會(huì)上向他展示自己所開(kāi)發(fā)的機(jī)器學(xué)習(xí)系統(tǒng)，該機(jī)器能玩20世紀(jì)80年代流行的街機(jī)游戲《Breakout》。事實(shí)上，它不僅會(huì)玩，而且非常精通，高效而無(wú)情，令塔里安感到震驚?！氨M管作為技術(shù)人員的我對(duì)這一成就感到驚奇，但另一方面的我想到，我正在見(jiàn)證一個(gè)開(kāi)啟人工智能災(zāi)難的玩具模型。一次突然的展示，讓我看到了意想不到的智能潛力?！彼锇不貞浀?。

　　在1975年的阿希洛馬會(huì)議（Asilomar Conference）上，分子生物學(xué)家們就重組DNA的道德底線問(wèn)題進(jìn)行了討論，最終在安全標(biāo)準(zhǔn)上取得了共識(shí)，簽名保證不讓人工基因改造的生物對(duì)公眾造成威脅。相比波多黎各的這次人工智能會(huì)議，阿希洛馬會(huì)議的結(jié)果顯然更加具體。

　　在波多黎各的這次會(huì)議上，參會(huì)者的公開(kāi)信概述了人工智能的研究重點(diǎn)，如人工智能的經(jīng)濟(jì)和法律效應(yīng)，以及人工智能系統(tǒng)的安全性。近日，埃隆·馬斯克斥資一千萬(wàn)美元用于支持這項(xiàng)研究。這些都是防止機(jī)器人破壞世界經(jīng)濟(jì)，或防止它們向人類(lèi)大開(kāi)殺戒的重要一步。一些公司已經(jīng)走得更遠(yuǎn)。去年，加拿大機(jī)器人公司Clearpath Robotics承諾不研制用于軍事的自主機(jī)器人。該公司首席技術(shù)官瑞恩·加里皮（Ryan Gariepy）在公司網(wǎng)頁(yè)上寫(xiě)道：“致反對(duì)殺人機(jī)器人的人們：我們支持你?！?

　　承諾不開(kāi)發(fā)“終結(jié)者”僅僅是開(kāi)始。像谷歌這樣的人工智能公司必須考慮他們的產(chǎn)品，如自動(dòng)駕駛汽車(chē)的安全性和法律責(zé)任問(wèn)題。無(wú)論機(jī)器人是否會(huì)使人類(lèi)失去工作，人工智能算法所導(dǎo)致的意想不到的后果，對(duì)人類(lèi)來(lái)說(shuō)都顯得不是很公平。舉例來(lái)說(shuō)，亞馬遜公司在不同社區(qū)出售商品的價(jià)格不同，這是否符合倫理？有沒(méi)有什么安全措施，來(lái)保障大宗商品市場(chǎng)不被某個(gè)交易算法破壞？在自動(dòng)駕駛交通工具的時(shí)代，從事大巴司機(jī)這樣職業(yè)的人將何去何從？

　　Binatix是一家從事股票市場(chǎng)交易的深度學(xué)習(xí)公司，其創(chuàng)始人伊塔馬爾·阿雷爾（Itamar Arel）并沒(méi)有參加波多黎各的會(huì)議，但他在讀完公開(kāi)信后馬上簽了名。對(duì)他來(lái)說(shuō)，智能算法領(lǐng)域的革命，以及價(jià)格低廉的智能機(jī)器人需要被人們更好地理解?！笆菚r(shí)候要花更多精力去理解人工智能系統(tǒng)取代藍(lán)領(lǐng)工作所帶來(lái)的社會(huì)影響了，”他說(shuō)，“這是肯定的，社會(huì)無(wú)法跟上人工智能系統(tǒng)發(fā)展的速率。這絕對(duì)是個(gè)問(wèn)題?！?

　　倫敦帝國(guó)學(xué)院的認(rèn)知機(jī)器人教授穆雷·沙納漢（Murray Shanahan）稱(chēng)，對(duì)破壞性人工智能超級(jí)大腦的預(yù)測(cè)或許會(huì)登上頭版頭條，但在近幾年，這些更加枯燥、平淡的擔(dān)憂(yōu)意見(jiàn)才是更應(yīng)該見(jiàn)諸媒體的。他說(shuō)：“很難預(yù)測(cè)到底會(huì)發(fā)生什么，但我們能肯定，它們一定會(huì)對(duì)社會(huì)造成影響。”（任天）