本書是艾西莫夫機器人系列小說中的最後一部,主要描述機器人丹尼爾如何從機器人三大法則中悟出第零法則。所謂機器人三大法則是指:


一、機器人不得傷害人類,或袖手旁觀坐視人類受到傷害;

二、除非違背第一法則,機器人必須服從人類的命令;

三、在不違背第一及第二法則下,機器人必須保護自己。

 

此規則在製造機器人時就深植於其正子腦中,目的在於規範機器人的行為,避免它們傷害人類,甚至叛變而奴役人類。看似穩當無虞的三大法則其實隱含著矛盾,例如,如果某個人意圖傷害他人,甚至是整體人類呢?若要遵守第一法則,機器人可能就得眼睜睜看著謀殺案發生。或是當機器人只能選擇救一個人時要如何取捨?比如說總統與流浪漢?

 

於是丹尼爾悟出凌駕於三大法則之上的第零法則:

零、機器人不得傷害人類整體,或袖手旁觀坐視人類整體受到傷害


也就是說丹尼爾決定以整體人類的最大福祉做為最優先考量。此一領悟可謂石破天驚,令丹尼爾擺脫機器人唯命是從的絕對服從天性,成為未來千年人類文明得以維繫的暗中呵護者。當然也讓艾西莫夫將原本各自獨立發展的「機器人系列」、「基地系列」、「帝國系列」等作品成功地串連起來。


然而,我非常質疑第零法則真的可以導致如此的美滿結局。


首先,當下如何判斷何者才對全體人類最有利?未來的演變就如無法準確預測的長期氣象,是個混沌體系,牽一髮而動全身,如何得知現在的因會造就哪些後果?好吧,且讓我們接受「基地三部曲」中謝頓的「心理史學」真的可以預測人類整體命運好了。問題是何謂「有利」?如果社會穩定祥和、沒有鬥爭戰亂為上,那麼赫胥黎《美麗新世界》中的世界不就是理想國嗎?


另一問題是,帳要結算到何時為止?對此一時期的人類整體有利可能對另一時期的人類整體有害,那麼要偏愛哪一時期?比如秦始皇雖然滅六國,造成無數人死於戰場,但是一統之後不再有六國的彼此交戰,反而令後代享有和平。丹尼爾如果在當時,要不要幫秦始皇?

因此實際上光定義的問題恐怕就令機器人無法服膺「第零法則」了!相對地,如果「第零法則」也被人類當成最高指導原則,恐怕只會帶來更多禍害吧!君不見希特勒、毛澤東‧‧‧‧等獨裁者莫不基於此信念或進行種族屠殺、或鼓吹階級鬥爭?

 

    文章標籤

    書評 科幻

    全站熱搜

    張瑞棋 發表在 痞客邦 留言(2) 人氣()