軍事機器人程序變異或毀滅世界

　　毫無疑問，未來戰(zhàn)爭中，自動機器人士兵將成為作戰(zhàn)的絕對主力。美國海軍研究室在關(guān)于機器人士兵的研究報告《自動機器人的危險、道德以及設(shè)計》中，對軍方使用機器人提出警告，建議為軍事機器人提前進行嚴格的設(shè)計和使用“緊箍咒”，否則整個世界都有可能毀于他們的鋼鐵之手。

　　報告指出，現(xiàn)今美國的軍事機器人設(shè)計師往往急于求成，常常會將還不成熟的機器人技術(shù)急匆匆推入市場，促使人工智能的進步在不受控制的領(lǐng)域內(nèi)不斷加速發(fā)展。更糟糕的是，目前還沒有一套控制自動系統(tǒng)出錯的有效措施。如果機器人設(shè)計出現(xiàn)錯誤，足以讓全人類付出生命的代價。