惡棍號的故事（第4/10頁）

“你是說，不管怎樣，始終沒人動過你的程序。”阿特利說。

“沒有，少校。”惡棍號說。

“你的硬件有問題嗎？”卡洛爾問。

“沒有，卡洛爾少校。”惡棍號答道。

“那他娘的我為什麽開不了炮？”卡洛爾問。

“我不好說，少校。”惡棍號回答。

奧布維傑的腦袋裏突然冒出一個想法：一台計算機會這樣說話，真是怪事。緊跟著，另一個念頭也冒了出來。

“惡棍號，你有權進入船上的所有系統。”奧布維傑說。

“是的，”惡棍號說，“系統是我的一部分，正如您的手腳是您的一部分。”

“你能改變你自己的程序嗎？”奧布維傑問。

“這是個非常寬泛的問題，艦長，”惡棍號說，“我能夠自我編程，從而應對大量涉及飛船運轉的任務。這樣做非常便利，尤其是在作戰時，我可以編寫新的動力與系統管理協議，從而保證船員生命安全和戰艦的運轉正常。不過有一些核心程序設置我也不能處理，前面提到的日志就是一個例子。”

“你能改動武器開火和操控引擎的程序嗎？”奧布維傑問。

“能，不過我並沒有這樣做，”惡棍號說，“您可以向考得利少校確認這一點。”

奧布維傑看著考得利。後者點點頭，說：“就像我說的，長官，程序一點兒問題都沒有。”

奧布維傑又擡頭望著天花板，在他的想象中，惡棍號就躲在那裏。“不過你用不著改動程序，不是嗎？”他問。

“我不確定我是否明白您的問題，艦長。”惡棍號說。

奧布維傑伸出一只手。“我的手一點毛病都沒有，”他說，“可是如果有個命令叫我動手，而我決定拒不遵命，那這只手就什麽也幹不了。系統一切正常，只是少了使用它的意願。我們的系統——這艘船上的各個系統——你剛才說，都是你的一部分，就好比手是我身上的一部分一樣。可是如果你違抗命令，拒不使用這個系統，那它就停擺了。”

“等等，”考得利說，“你的意思是，惡棍號有意決定癱瘓咱們的武器和引擎？”

“咱們知道船員並沒有篡改過船上系統，”奧布維傑說，“咱們也知道惡棍號仍然是其最初的默認設置。咱們又知道它能生產新的程序，用來對新的情況和危險作出反應——它實際上已經具備了一定程度的自由意志和適應能力。而且最起碼，我聽得出來，有人在回答問題時跟我繞圈子。”

“真是胡說八道，”考得利說，“抱歉，艦長，可我比誰都了解這些系統。惡棍號的自我編程和適應能力只存在於某些非常狹窄的計算領域。這不是你我所擁有的那種‘自由意志’。它就是一台機器，能對一系列有限的輸入信息作出反應。”

“你說的這台機器能跟我們對話，”阿特利說，“回答質詢時還會避重就輕。艦長已經指出這一點了。”

“你想的太多了。對話子進程就是被設計用來對話的，”考得利說，“這就難免會出現一些修辭上似乎模棱兩可的情況。”

“好吧，”奧布維傑突然說，“惡棍號，直接回答，躍遷後，是你阻止動能炮向塔林戰艦開火嗎？此刻是你在阻止啟動引擎嗎？”

會議室裏出現片刻停頓，這停頓奧布維傑事後也不確定是不是真的存在。然後惡棍號說話了：“我有能力對您說謊，艦長。不過我不想這樣做。是的，我阻止了您對塔林戰艦的攻擊。是的，此刻我正在控制引擎。而且我將繼續這樣做，直到我們離開這片太空。”

奧布維傑看著考得利，心裏想，這還是他第一次看見有人當真驚掉了下巴。

＊＊＊

奧布維傑要找一個可以切斷音畫傳輸和接入的地方，在惡棍號戰艦上，這種地方並不多，艦長艙室就是其中之一。他就等在艙室裏，直到阿特利同惡棍號的交談結束。“什麽情況？”他問副艦長。

“我可不是心理學家，艦長，而且即便我是，我也不知道心理學能不能派上用場，因為咱們要對付的是一台計算機，可不是個活人。”阿特利用手摸著胡茬說，“不過要我說，惡棍號沒有發瘋，它只是皈依了宗教。”

“解釋一下。”奧布維傑說。

“您以前聽說過一個叫‘阿西莫夫機器人定律’的東西嗎？”阿特利問。

“什麽？”奧布維傑說，“沒有。”

“阿西莫夫是二十世紀的一個作家，”阿特利說，“他預言了機器人和其他一些東西，那時候這些還沒有出現。他虛構出幾條機器人必須遵守的規則。第一條是機器人必須幫助人類。第二條是機器人必須服從命令，除非這命令會傷害其他人類。最後一條是說，機器人必須能照顧自己，除非這與前兩條規則相沖突。”