挪威主權(quán)財(cái)富基金道德委員：考慮禁止投資研發(fā)殺人機(jī)器的高科企業(yè)

　　人工智能“阿爾法圍棋”與韓國(guó)棋手李世石的“人機(jī)大戰(zhàn)”近期吸引全球目光，引發(fā)有關(guān)智能機(jī)器潛能的熱議。

　　為保證人類安全，挪威主權(quán)財(cái)富基金表示，這一基金眼下并未因涉及自動(dòng)武器研發(fā)而把任何企業(yè)拉入“黑名單”，但“這是一個(gè)清楚的警告”。

　　道德委員提前敲“警鐘”

　　挪威主權(quán)財(cái)富基金道德委員會(huì)近日透露，這一基金今年將更新投資“黑名單”，考慮禁止投資可能研發(fā)出殺人機(jī)器的高技術(shù)企業(yè)。

　　挪威主權(quán)財(cái)富基金是全球規(guī)模最大的國(guó)家主權(quán)財(cái)富基金，現(xiàn)階段資產(chǎn)規(guī)模8300億美元。截至去年年底，這一主權(quán)基金持有全球9050家上市企業(yè)的股票，所持股份總市值相當(dāng)于全球上市企業(yè)總市值的1.3%。

　　挪威主權(quán)財(cái)富基金下設(shè)一個(gè)獨(dú)立的道德委員會(huì)，會(huì)依據(jù)各種道德準(zhǔn)則給出基金投資建議。挪威中央銀行董事會(huì)則會(huì)根據(jù)道德委員會(huì)的建議，指示挪威主權(quán)財(cái)富基金避免購(gòu)買(mǎi)“上榜”黑名單的企業(yè)乃至行業(yè)，或者將這些企業(yè)列入“觀察名單”。

　　會(huì)衡量投資自動(dòng)武器

　　挪威主權(quán)財(cái)富基金道德委員會(huì)主席約翰·安德烈森接受路透社采訪時(shí)說(shuō)，該基金已不允許投資研發(fā)地雷與核武器的企業(yè)。現(xiàn)在，道德委員會(huì)正將目光投向研發(fā)自動(dòng)武器的企業(yè)。

　　依據(jù)設(shè)計(jì)原理，自動(dòng)武器可以在沒(méi)有人類干預(yù)的情況下鎖定并擊中目標(biāo)。雖然自動(dòng)武器的研發(fā)仍處于構(gòu)想階段，但一些人工智能專家預(yù)測(cè)，按照如今科技發(fā)展的速度，自動(dòng)武器從構(gòu)想到現(xiàn)實(shí)最快可能在數(shù)年時(shí)間內(nèi)實(shí)現(xiàn)。

　　美國(guó)國(guó)防部去年12月證實(shí)，將申請(qǐng)一筆120億至150億美元的預(yù)算，用于研發(fā)包括自動(dòng)武器在內(nèi)的新技術(shù)。

　　“如果你考慮的是研發(fā)識(shí)別癌癥的技術(shù)，那沒(méi)有問(wèn)題，”安德烈森說(shuō)，“但如果你將這種技術(shù)沿用到在特定環(huán)境下追擊一個(gè)人，或者和他人合作開(kāi)發(fā)出自動(dòng)武器，那么，我們找上你的時(shí)候別感到意外。”安德烈森說(shuō)，這一基金眼下并沒(méi)有因涉及自動(dòng)武器研發(fā)而把任何企業(yè)拉入“黑名單”，但“這是一個(gè)清楚的警告”。

　　投資有“規(guī)矩”

　　安德烈森透露，道德委員會(huì)今年晚些時(shí)候?qū)⒏峦顿Y“黑名單”，將新的注意力集中到涉嫌腐敗的電信、防務(wù)和能源企業(yè)。道德委員會(huì)還將評(píng)估卡塔爾建筑行業(yè)等涉嫌違反人權(quán)的投訴。據(jù)規(guī)章，挪威主權(quán)財(cái)富基金禁止投資涉嫌系統(tǒng)性違反人權(quán)的企業(yè)。

　　挪威議會(huì)今年早些時(shí)候推動(dòng)一項(xiàng)決議，要求限制主權(quán)基金對(duì)于過(guò)度碳排放企業(yè)的投資。安德烈森說(shuō)，道德委員會(huì)正在研究制訂有關(guān)評(píng)估標(biāo)準(zhǔn)，預(yù)計(jì)今年年底前將公布首批因涉嫌碳排放過(guò)量而進(jìn)入黑名單的企業(yè)。

　　截至眼下，大約66家企業(yè)因不符合投資道德標(biāo)準(zhǔn)而被列入挪威主權(quán)財(cái)富基金投資“黑名單”。此外，兩家企業(yè)入榜“觀察名單”，包括近年陷入腐敗丑聞的巴西石油公司?！岸鄶?shù)腐敗案例來(lái)自于防務(wù)、電訊和能源行業(yè)，這三個(gè)行業(yè)讓我們(道德委員會(huì))很忙碌，”安德烈森說(shuō)。(新華社電)

　　聯(lián)合國(guó)曾建議凍結(jié)“殺人機(jī)器人”研發(fā)

　　新華社電 鑒于美國(guó)在作戰(zhàn)行動(dòng)中頻頻使用遠(yuǎn)程遙控的無(wú)人機(jī)，一些人擔(dān)心，某些國(guó)家可能最終使用能代替前線士兵、自動(dòng)殺傷敵人的“殺人機(jī)器人”。一些國(guó)際非政府組織曾發(fā)起宣傳活動(dòng)，要求禁止全自動(dòng)機(jī)器人武器。

　　2013年5月， 聯(lián)合國(guó)人權(quán)理事會(huì)曾在瑞士日內(nèi)瓦開(kāi)會(huì)，討論議題之一就是否凍結(jié)研發(fā)“殺人機(jī)器人”并成立專門(mén)委員會(huì)討論相關(guān)政策。

　　當(dāng)時(shí)，有專家曾向人權(quán)理事會(huì)提交報(bào)告，建議聯(lián)合國(guó)機(jī)構(gòu)呼吁各國(guó)凍結(jié)這類“奪命機(jī)器人”的試驗(yàn)、生產(chǎn)和使用。

　　當(dāng)時(shí)的報(bào)告建議，聯(lián)合國(guó)人權(quán)事務(wù)需要成立一個(gè)高級(jí)別小組，由法律、機(jī)器人科學(xué)、電腦科學(xué)等專家參與，討論與“殺人機(jī)器人”關(guān)聯(lián)的政策。

　　報(bào)告說(shuō)，這類機(jī)器人甚至可能殺死那些已因受傷無(wú)力作戰(zhàn)或準(zhǔn)備投降的敵人。這會(huì)使人們難以確?！皻⑷藱C(jī)器人”不違反國(guó)際人權(quán)和國(guó)際人道主義法律，而且，讓機(jī)器人自動(dòng)決定是否下殺手，意味著“道義責(zé)任的缺失”。