近日，在瑞士達(dá)沃斯舉辦的世界經(jīng)濟(jì)論壇上，與會人士討論了智能機(jī)器應(yīng)用于戰(zhàn)場可能產(chǎn)生的后果。美國?？怂剐侣劸W(wǎng)在報道中指出，盡管機(jī)器人能減輕士兵在戰(zhàn)場上的負(fù)擔(dān)，但自主機(jī)器人可以不受人類操控而自動選擇目標(biāo)，所以需要建設(shè)完善的道德程序才能保證安全，否則，遇到黑客襲擊將會十分危險。

　　本報記者 劉 霞 綜合外電

　　機(jī)器起來對抗它們的人類主人，這是科幻小說中常見的橋段，但在最近的世界經(jīng)濟(jì)論壇上，有專家警告稱，它有可能成為一個真實的威脅。與現(xiàn)在無人機(jī)仍然由人類操控不同，自主武器有可能被編程從而能夠自主選擇并攻擊目標(biāo)，這些戰(zhàn)爭機(jī)器可能會有不符合道德的行為并且成為黑客的游樂場。

　　自主武器提出道德挑戰(zhàn)

　　澳大利亞新南威爾士大學(xué)計算機(jī)科學(xué)和工程學(xué)院人工智能教授托比·沃爾什接受?？怂剐侣劸W(wǎng)采訪時說：“這是我們?nèi)ツ炅谐龅膽?yīng)該關(guān)注的主要問題之一?！?/p>

　　他補(bǔ)充說：“令人擔(dān)心的是，各國軍隊可能會在未來數(shù)年內(nèi)將機(jī)器人派上戰(zhàn)場，但我們中的大多數(shù)人相信，我們沒有能力建造出有道德的機(jī)器人，而且，我們也不認(rèn)為會有人打算建造有道德的機(jī)器人?！?/p>

　　科學(xué)小說作者艾薩克·阿西莫夫在他1942年的短篇小說《環(huán)舞》（Runaround）中提出了著名的“機(jī)器人三定律”：機(jī)器人不能危害人，或任人受傷而袖手旁觀；除非違背第一定律，機(jī)器人必須服從人的命令；除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。

　　研究人員認(rèn)為，對于任何“有道德的機(jī)器人”來說，這樣的守則必不可少，但將這些倫理規(guī)范編入機(jī)器人內(nèi)是建造者的責(zé)任。不過，理想很美好，現(xiàn)實很骨感。

　　美國安全中心倫理自主性項目新主管保羅·謝爾說：“這樣的武器目前還不存在。而且，即使先進(jìn)的系統(tǒng)也被設(shè)計成不能選擇目標(biāo)，只可以在射擊目標(biāo)時做出糾正?！?/p>

　　盡管目前仍然沒有國家研發(fā)出自主武器，但包括美國在內(nèi)的幾個國家已經(jīng)在戰(zhàn)區(qū)部署了無人機(jī)。美國不僅將無人機(jī)作為監(jiān)控手段，而且，也作為一種遠(yuǎn)程攻擊和殺死可疑恐怖分子的手段。

　　以色列飛機(jī)工業(yè)公司的“哈洛普”（Harop）巡飛無人機(jī)可能是通向真正的自主武器的第一步?！肮迤铡笔腔谝陨泻娇展I(yè)公司生產(chǎn)的上一代無人機(jī)“哈比”（Harpy）制造而成。《簡氏防務(wù)周刊》此前報道，以色列航空工業(yè)公司2015年6月7日宣布成功對“哈洛普”無人機(jī)進(jìn)行了試驗，該無人機(jī)在沒有探測到目標(biāo)后，可以安全降落。

　　“哈洛普”這款自殺無人機(jī)可以在目標(biāo)區(qū)域盤旋6個小時，發(fā)現(xiàn)目標(biāo)后飛向并撞擊目標(biāo)，引爆其33磅（約15千克）重的彈頭。據(jù)悉，“哈比”無人機(jī)主要用于探測并摧毀雷達(dá)站，但“哈洛普”也可以攻擊汽車和地面其他目標(biāo)。

　　謝爾說：“這類武器能通過遵守程序，自己選擇目標(biāo)，但它能變得非常狡猾。相比較而言，自動駕駛汽車自身并不能做決定?！?/p>

　　目前，這類機(jī)器仍然不能進(jìn)行主動攻擊。布雷德斯補(bǔ)充說：“主動攻擊權(quán)仍然不能賦予機(jī)器，至少不能被任何文明世界的個人給機(jī)器。”

　　謝爾強(qiáng)調(diào)稱，戰(zhàn)爭法本身并不禁止自主武器，這是一個事實。不過，他也警告稱，讓此類設(shè)備遵守目前共同接受的規(guī)則，是一個巨大的挑戰(zhàn)，即便這一切成為現(xiàn)實，自主武器仍然提出了嚴(yán)重的倫理和道德挑戰(zhàn)，也存在技術(shù)方面的隱憂。

　　謝爾說：“假定我們能建造出有道德的機(jī)器人，它們能遵守這些法則，但還是存在另一個隱憂，那就是，我們?nèi)匀粺o法建造任何不被攻擊的系統(tǒng)。”

　　面臨被攻擊和劫持的威脅

　　即使現(xiàn)在的“當(dāng)紅炸子雞”無人機(jī)本身也非完全安全。2011年，伊朗軍隊宣稱“劫持”了一架美國尖端的RQ-170隱形無人機(jī)。盡管美國軍方否認(rèn)，但這也說明遠(yuǎn)程設(shè)備很有可能被攻擊。

　　簡氏信息集團(tuán)下屬的《國際防務(wù)評論》雜志的編輯胡武·威廉姆斯說：“科學(xué)家們一直在努力，希望通過加固數(shù)據(jù)鏈接的‘加密’程序來使其與操作員之間的連接變得更安全。但是，沒有加密方法是完美無缺的，盡管現(xiàn)在的加密程序的安全性已經(jīng)極高，但數(shù)據(jù)鏈接仍然可以被攻破；而且，也有人在不斷想方設(shè)法破壞對遠(yuǎn)程系統(tǒng)的控制。”

　　正如一直有聯(lián)網(wǎng)汽車會被攻擊的報道那樣，立法人士擔(dān)心，某些人可能會對無人武器系統(tǒng)發(fā)動攻擊。弗若斯特&沙利文咨詢公司航空航天和國防領(lǐng)域資深分析師邁克爾·布雷德斯說：“我們打算對包括無人機(jī)在內(nèi)的更多人工智能遠(yuǎn)程系統(tǒng)進(jìn)行核查。這些系統(tǒng)配備的激光雷達(dá)、聲學(xué)傳感器等傳感設(shè)備的先進(jìn)性與日俱增，且與我們在目前的自動汽車內(nèi)看到的大相徑庭?！?/p>

　　布雷德斯說：“盡管我們現(xiàn)在正努力確保遠(yuǎn)程機(jī)器不被不懷好意的人接管，很多設(shè)備都擁有加密的數(shù)據(jù)連接，但威脅仍然存在。”威廉姆斯解釋稱：“今天的遠(yuǎn)程系統(tǒng)的安全性已經(jīng)非常高，但仍會有人想辦法來破壞它們，來竊奪控制權(quán)、竊奪GPS系統(tǒng)或通過其他手段來破壞對飛機(jī)的控制?！?/p>