机器人三大定律的发展和演进概述
概述
機器人三大定律:也叫做機器人三大法則,機器人三原則,或者阿西莫夫原則。
艾薩克·阿西莫夫 Issac Assimov,1920~1992年,俄裔美國作家,猶太人,世界頂級科幻大師,與儒勒·凡爾納Jules Gabriel Verne、H·G·威爾斯Herbert George Wells并稱為科幻歷史上的三巨頭,與羅伯特·海因萊因Robert Anson Heinlein、亞瑟·克拉克Arthur Charles Clarke并列為科幻小說的三巨頭。
同時阿西莫夫是一位超級多產的作家,他的格言是“不為別的,只為寫作而生”,“如果不寫作,我就會死去”。他一生創作和編輯過得書籍超過500冊,他的機器人系列、銀河帝國系列、基地系列小說共同構成宏大的未來宇宙,被譽為“科幻圣經”。
其中機器人三大定律便出自阿西莫夫1942年發表的短篇小說《轉圈圈(Runaround,或譯作環舞)》,這部小說后來被收入《我,機器人(I,Robot)》短篇集中。
一、三大定律的誕生
第一定律:機器人不得傷害人類,或坐視人類受到傷害;
第二定律:除非違背第一定律,否則機器人必須服從人類命令;
第三定律:除非違背第一或第二定律,否則機器人必須保護自己。
《我,機器人(I,Robot)》短篇集包含了9個關于機器人的小故事,用以深入闡明機器人三大定律,這9個故事是:
- 《羅比Robbie》發表于1940年,小女孩格洛莉婭和她的保姆機器人羅比的情感故事。
- 《轉圈圈Runaround》發表于1942年,在水星上SPD-13機器人速比迪失控的故事。
- 《推理Reason》發表于于1941年,太空站QT1型機器人小可愛策謀造反的故事。
- 《捉兔子Catch that Rabbit》發表于1944年,行星礦場帶有6個從屬機器人的DV-5機器人戴夫行為異常的故事。
- 《說假話的機器人Liar!》發表于1941年,具有心靈感應能力的HRB-34型機器人引發人類混亂的故事。
- 《捉拿機器人Little Lost Robot》發表于1947年,在超空間研發基地尋找丟失的一臺NS-2機器人內斯特的故事。
- 《逃避Escape!》發表于1945年,美國機器人公司的主腦機器人嘗試開發超空間飛船的故事。
- 《證據Evidence》發表于1946年,市長候選人斯蒂芬·拜爾利被人懷疑是機器人而引發的一系列故事。
- 《換個角度The Evitable Conflict》發表于1950年,斯蒂芬·拜爾利拜訪全球四大區域調查超級電腦機體異常情況的故事。
如果要深入理解機器人三大定律,完整閱讀這9個故事是非常必要的,您可以容易的在網絡上搜索到原文閱讀,或者在喜馬拉雅APP找到相關音頻內容。
2004年上映的威爾史密斯主演的電影《機械公敵I,Robot》主要創意即取自于阿西莫夫短篇集的第5個故事《捉拿機器人》,但從影片的全篇來看,則是蘊含著超越機器人三大定律的內容,包含了來自機器人第零定律的概念。
二、三大定律的完善
2010年后,美國科幻小說作家米奇·扎克·賴希特(Mickey Zucker Reichert)為這個系列又撰寫了三部前傳,分別是《保護 to protect》、《服從 to obey》、《存續preserve》。
機器人三大定律中存在著很多致命問題,這其實在阿西莫夫的《我,機器人》系列小說中就有了各種展示。
《I,Robot》本是另一名科幻小說作家Eando Binder在1939年發表的機器人科幻小說,這是一個關于機器人Adam link被創造出來然后又陷入謀殺嫌疑的故事,聽上去有些像科學怪人弗萊肯斯坦。
阿西莫夫從這本小說中獲得靈感并開始創作機器人系列故事的第一篇《羅比》,當1950年他的這些短篇故事被結集出版的時候,他建議書名叫做《心靈與鋼鐵Mind and Iron》,但最終被出版商使用了同名的《I,Robot》。
由于阿西莫夫在小說中提出了著名的機器人三大定律,所以有很多人愿意把他稱為機器人之父。然而在阿西莫夫心中,機器人之父的稱謂大概應該歸屬于于約瑟夫·恩格伯格Joseph F. Engelberger和馬文閔斯基Marvin Minsky,他曾在小說中特別向他們致意。
馬文閔斯基也是公認的人工智能之父,是人工神經網絡的奠基人,阿西莫夫曾半開玩笑說他是世界上罕見的比自己更聰明的兩個人之一。物理學家約瑟夫·恩格伯格則在1950年開發了美國第一臺工業機器人,他作為機器人之父最是實至名歸。
1985年,出版商將阿西莫夫關于機器人主題的眾多短篇和長篇小說整合成為機器人系列叢書出版,除了上面提及的《我,機器人》短篇集之外還包括:
- 《正子人》發表于1992年,改編自1976年他的短篇《雙百人The Bicentennial Man》,正子人即使用正電子大腦的機器人。這本書講述了機器人Andrew執著努力最終成為人類的故事。 1999年羅賓威廉姆斯主演的《機器人管家Bicentennial Man》就是基于這個小說改編。
- 《地球母親Mother Earth》發表于1948年,講述在未來將正電子機器人引入到人類生活引發的問題,地球與太空族發生戰爭的故事。
- 《鋼穴The Caves of Steel》發表于1954年,第一本關于人形機器人丹尼爾R. Daneel Olivaw的小說,也開啟了丹尼爾和伊利亞·貝萊Elijah Baley的傳奇探案冒險故事。
- 《裸陽The Naked Sun》發表于1957年,伊利亞·貝萊三部曲之二。
- 《鏡像Mirror Image》發表于1972年,關于丹尼爾和伊利亞貝萊的短篇故事。
- 《曙光中的機器人The Robots of Dawn》發表于1983年,伊利亞·貝萊三部曲之三,具有心靈感應能力的機器人吉斯卡R. Giskard Reventlov開始登場。
《機器人與帝國Robots and Empire》發表于1985年,伊利亞·貝萊三部曲的續集,故事發生在貝萊死后一個多世紀,丹尼爾仍然是故事的主角。
阿西莫夫在《機器人與帝國》中借機器人丹尼爾之口提出機器人第零定律,凌駕于之前三大定律之上。
這個第零定律是:
機器人不得傷害整體人類,或坐視整體人類受到傷害。
加上第零定律,機器人下三大定律修正版如下:
第零定律:機器人不得傷害整體人類,或坐視整體人類受到傷害;
第一定律:機器人不得傷害人類,或坐視人類受到傷害;
第二定律:除非違背第一定律,否則機器人必須服從人類命令;
第三定律:除非違背第一或第二定律,否則機器人必須保護自己。
機器人三大定律對后來的機器人學,尤其是機器人倫理學的研究有著重要的影響,也成為眾多機器人科幻作品中對機器人的基本約束。同時,機器人三大定律不僅僅是阿西莫夫機器人系列小說的核心思想,更是成為貫穿銀河帝國和基地兩大系列的重要線索。
可以說,人形機器人機·丹尼爾R. Daneel Olivaw和機·吉斯卡R. Giskard Reventlov是阿西莫夫銀河宇宙的最高存在,他們主導著人類銀河歷史的發展,也貫穿阿西莫夫小說的三大系列。
丹尼爾是奧羅拉星球科學家漢·法斯托夫Dr. Han Fastolfe制造的一臺人形機器人。他有著和人一樣的外貌,甚至強于常人的邏輯推理能力,可以說是具有完美人類理性的機器。
丹尼爾行為表現上和人類的唯一區別就是他必須嚴格遵守機器人三大定律,不能傷害任何人類,必須聽從人類命令,最后才是保全自己。
吉斯卡外形只是普通的機器人,同樣出于法斯托夫之手,但他的小女兒瓦西莉亞Vasilia Fastolfe無意中為吉斯卡賦予了心靈感知和心靈操控的能力,它可以感知和修改人類的情緒,進而控制人類。
丹尼爾和吉斯卡長期以來都是一對好搭檔,在吉斯卡死去之前它也為丹尼爾開啟了心靈感知和操控能力。
關于丹尼爾的故事主要包含在阿西莫夫的伊利亞貝萊三部曲及其一部續集中。貝萊是一名星際警察,三部曲主要講述了他和丹尼爾一起偵破探案的傳奇故事。
也正是伊利亞貝萊讓地球人意識到要走出地球到銀河系殖民才能繼續生存下去,他的兒子本特利·貝萊Bentley Baley開啟了第二次星際殖民,創建了貝萊星球Baleyworld。
阿西莫夫的銀河帝國系列包含了三部小說,按照故事發生的時間順序是:
- 《繁星若塵The Stars, Like Dust 》
- 《星空暗流The Currents of Space》
- 《蒼穹一粟Pebble in the Sky》
阿西莫夫的基地小說系列包含了七部作品,三部正傳:
- 《基地Foundation》,基地克服建立之初遇到的幾個危機,勢力逐步擴張到周圍星系。發表于1951年
- 《基地與帝國Foundation and Empire》,基地與帝國的戰爭,變異人騾消滅基地短暫統一銀河。發表于1952年
- 《第二基地Second Foundation》,騾尋找傳說中的第二基地并最終失敗。發表于1953年
兩部后傳:
- 《基地邊緣Foundation’s Edge》,格蘭·崔維茲Golan Trevize探索第二基地和蓋亞星球的故事。發表于1982年
- 《基地和地球Foundation and Earth》,格蘭·崔維茲Golan Trevize尋找地球并最終與丹尼爾見面的故事。發表于1986年
兩部前傳,講述丹尼爾協助下,哈利· 謝頓Hari Seldon創造心理史學Psychohistory籌備基地的故事:
- 《基地前奏Prelude to Foundation》。發表于1988年
- 《邁向基地Forward the Foundation》。發表于1992年
阿西莫夫宇宙包含了前后數萬年的故事,起于人類對機器人的應用,止于銀河第二帝國的建立,大致的脈絡如下:
1、人類開始大規模應用各種機器人。見《我,機器人》。 2、太陽系行星際開發和移民。見《我,機器人》。 3、超空間跳躍飛行技術突破,恒星際旅行變為現實。見《我,機器人》。 4、第一波星際移民50個恒星系,這些移民成為后來半機械化具有數百年壽命的太空族,由機器人仆人服侍。見伊利亞貝萊三部曲及續集。 5、太空族逐漸喪失創造力和探索欲望,地球人突破太空族的約束,開啟第二波人類太空殖民,這些移民都是普通人類,他們只使用機器而拒絕使用機器人。他們逐漸占領銀河系。見伊利亞貝萊三部曲及續集。 6、第一銀河帝國的建立,并維持了上萬年的和平發展。見銀河帝國系列。 7、由于重要科技能力(如核能)的喪失,第一帝國逐漸走向衰落。在丹尼爾的幫助下心理史學先知哈利· 謝頓Hari Seldon預言到第一銀河帝國的衰落,并創建了兩個基地作為第二銀河帝國的種子。見基地系列。 8、經過數百年的努力,兩個基地克服重重危機終于在丹尼爾引導下創建了第二銀河帝國,人類和銀河系都邁入了全新紀元。見基地系列。阿西莫夫的小說也是好萊塢科幻電影的重要來源,經典電影系列《星際迷航Star Trek》和《星球大戰Star War》都從中受到了諸多啟發。
貫穿阿西莫夫宇宙的線索看似是兩個銀河帝國的發展歷程,但實際更是人類從地球走出太陽系,走向銀河系的過程,也可以說是人類對機器智能從依賴到融合,再到拒絕,到最后無形中被機器的超人工智能引導向更高層次生命形式的過程。
從表面看,聚變核能源的使用決定了兩個銀河帝國的興亡,但實際上,改變人類歷史的卻是充滿科幻色彩的心靈控制能力,無論是機器人吉斯卡,還是第二基地,蓋婭星人和丹尼爾,這些才是決定故事走向的關鍵人物。這些人看起來很像是《星球大戰》電影中的絕地武士,但在阿西莫夫筆下,他們的理論基礎更強,也更加合理。
然而,容易被忽略的一個關鍵真相是,人類之所以能夠走出太陽系開啟銀河系,賴以成真的一個關鍵點就是超級人工智能主腦破解了超時空跳躍技術,建造了第一艘恒星際旅行飛船。
三、三大定律的潛在問題與延伸
機器人三大定律(含第零定律,下同),可以說每一條都包含著潛在的問題。
第零定律:機器人不得傷害整體人類,或坐視整體人類受到傷害;
首先,人類整體是個抽象概念,如何界定是否傷害人類整體?很多獨裁者和罪犯都打著優化人類種群、解救全人類的旗號發起戰爭或進行大肆屠殺。
好萊塢諜戰大片中不乏這樣的反面角色,甚至于《復仇者聯盟》中的大BOSS滅霸一個響指消滅50%人類也有著名正言順的說辭。
電影《機械公敵》中的機器人主腦VIKI經過推理就得出結論,由于人類慣于發動戰爭和屠戮,所以要想保護人類整體不受損害,最有效的方法就是把人類都控制起來,由機器人統治世界。
同樣造反的還有《2001太空漫游》中的哈爾9000、《流浪地球》中的莫斯以及《機器人總動員Wall·E》中的AUTO等。
第零定律往往成為機器人或者野心家殺人放火的最佳借口。
第一定律:機器人不得傷害人類,或坐視人類受到傷害;
作為人類,可能都曾經被拷問過“老婆和媽媽掉水里先救誰”這個人生難題,類似情節也出現在《機械公敵》中。威爾史密斯扮演的警察跳入水中營救落水女童,在水下即將抓到女童手的時候,機器人將他強行拉了出來。
阿西莫夫《我,機器人》中的短篇《丟失的機器人》中由于機器人必須和人類一起在微輻射的環境下工作,這些輻射對人體是有一定傷害的,但由于第一定律的原因導致機器人不斷地把人類工作者拉出工作環境,最終他們不得不裁剪第一定律只保留“機器人不得傷害人類”,去除不能坐視人類受到傷害這一規則。
同樣的,如果你想開發一直能夠玩SM游戲的機器人,這個第一定律也讓你變得頭疼。
電車難題顯示了另一困境:如果改變電車軌道將殺死一個人,不改變電車軌道將殺死五個人。機器人會改電車變軌道嗎?如果那一個人是機器人的主人,你還希望他改變電車軌道嗎?
另外一個矛盾是這個“傷害”是否包含“情感”傷害?而一旦包含情感傷害的話,那將變得更加難以界定,甚至導致機器人寸步難行。
第二定律:除非違背第一定律,否則機器人必須服從人類命令;
依照阿西莫夫小說的解釋,機器人總是設定優先服從主人的命令,主人不在場的情況則會服從其他人類的命令,這實際上很容易發生矛盾。
阿西莫夫的另一個設定是,命令的強弱程度也有著重要影響,甚至如果你對機器人發出了一個不太強硬的命令,當機器人發現執行這個命令的時候會違反第三原則(保全機器人自身),那么就會產生矛盾陷入死循環。這正是他的短篇小說《繞圈圈》所展現的情節。
機器人終究是被定義為一種工具,菜刀可以切菜也可以殺人,關鍵在于機器人接受的是什么樣的命令。經典科幻片《終結者1》施瓦辛格扮演的機器人T800接受命令去追殺人類,而《終結者2》中這個角色卻大反轉成為保護人類的正面角色,這也說明機器人本是并無正邪之分。
雖然第二定律在第零定律和第一定律之下,但并非不可超越,因為人類的命令可能掩蓋機器人所能獲得的前后信息,從而暗藏殺機。比如命令機器人在酒中放入某種它所不知的毒藥并讓它端給客人,同樣可以造成殺人。
第三定律:除非違背第一或第二定律,否則機器人必須保護自己。
在《轉圈圈》中已經涉及到由于人類命令不夠強而導致機器人在某些情況下優先考慮保全自身而導致命令被放棄的情況。
第三定律的問題經常出在對第一和第二定律的理解問題,在《丟失的機器人》中,內斯特機器人就為了保全自身而和人類玩起了貓捉老鼠游戲。
在《機器人與帝國》中丹尼爾也選擇為了人類的未來(第零原則)而選擇優先保護機器人吉斯卡而被迫傷害人類。
在阿西莫夫提出以后,很多科幻作家對機器人三大定律提出了增補和修改。
在1990年代,羅杰·麥克布萊特·艾倫Roger MacBride Allen撰寫了阿西莫夫宇宙故事的三個外傳,《卡利班Caliban》, 《地獄Inferno》和《烏托邦Utopia》。他設定的機器人定律和阿西莫夫略有不同:
第一定律:機器人不得傷害人類。(去除了不能坐視不管)
第二定律:除非違背第一定律,否則機器人必須與人類協作。(不再強調被命令)
第三定律:否則機器人必須保護自己避免傷害。(人類無法命令機器人摧毀自己)
第四定律:除非違背以上定律,機器人可以做自己喜歡的事。
在這里,機器人被視為幾乎和人類同等的尊重,是人類的伙伴而不再是工具或奴隸。
在基地續集后傳三部曲《基地的恐懼Foundation’s Fear》,《 基地的混亂Foundation and Chaos》 和《基地的勝利Foundation’s Triumph》中,描述了以機·丹尼爾為代表的機器人和機·盧杜威克R. Lodovic。丹尼爾一派遵循第零定律,堅持讓機器人干涉人類社會發展以避免戰爭傷害。盧杜威克一派則認為尊重人類自己的選擇任其發展,同時它們認為不能為了人類的利益而犧牲機器人和外星生物,它們還發明了凌駕于第零定律之上的負一定律:
機器人不能傷害智慧生物,也不能坐視智慧生物受到傷害。A robot may not harm sentience or, through inaction, allow sentience to come to harm.)(
其他一些被附加的定律還包括:
- Lyuben Dilov提出的第四定律,在所有情況下,機器人必須明確自身作為機器人的身份。(A robot must establish its identity as a robot in all cases.)
- Nikola Kesarovski提出的第五定律,機器人必須清楚自己是機器人(A robot must know it is a robot.)
- Harry Harrison提出第四定律,機器人必須再生產,但不能違反第一和第二定律(A robot must reproduce. As long as such reproduction does not interfere with the First or Second or Third Law.)
- Hutan Ashrafian提出第六定律即AIonAI定律,被賦予人類理性和道德感的機器人,應互相以兄弟相待(All robots endowed with comparable human reason and conscience should act towards one another in a spirit of brotherhood.)
但是,無論如何,機器人定律都包含著眾多的歧義和漏洞,主要集中在以下幾個方面:
- 由于缺乏上下文或信息不對稱導致機器人可能根本不知道自己違反了定律。 比如命令機器人向墻后面扔石頭而不告知可能會砸死墻后面的人。
- 對人類定義模糊不清。如何判斷對方是一個人類而不是人形機器人?外星人是不是人?外國人是不是人?在《機器人與帝國中》索拉力星的機器人就被設定為只識別那些會使用本星球方言的星際移民,而其他人類則不被視為人類。
- 對機器人定義模糊不清。如果一個機器人認為自己也是人類,那么第一定律就會對自身生效,而第二定律就會變得無效。
- 對行為結果難以評估。什么樣的行為對人類整體才是有害的?像《機械公敵》中VIKI認為把每個人都關押起來以確保安全不受損害是否合理?強制把跳入水中救人的警察拉上岸來是否正確?
如果繼續沿著阿西莫夫的方向走下去,也許注定無解,因為機器總是運行在條件信息完整的情況下,而現實世界永遠要在信息不完整的情況下嘗試做出最優決策,在現實中沒有假設,更無法用理性決斷出結果是否最優。
四、機器人定律總結
阿西莫夫完善版的機器人定律:
第零定律:機器人不得傷害整體人類,或坐視整體人類受到傷害;
第一定律:機器人不得傷害人類,或坐視人類受到傷害;
第二定律:除非違背第一定律,否則機器人必須服從人類命令;
第三定律:除非違背第一或第二定律,否則機器人必須保護自己。
羅杰·麥克布萊特·艾倫的機器人定律:
負一定律:機器人不能傷害智慧生物,也不能坐視智慧生物受到傷害。
第一定律:機器人不得傷害人類。(去除了不能坐視不管)
第二定律:除非違背第一定律,否則機器人必須與人類協作。(不再強調被命令)
第三定律:否則機器人必須保護自己避免傷害。(人類無法命令機器人摧毀自己)
第四定律:除非違背以上定律,機器人可以做自己喜歡的事。
其他:
第四定律:在所有情況下,機器人必須明確自身作為機器人的身份(Lyuben Dilov)
第五定律:機器人必須清楚自己是機器人(Nikola Kesarovski)
第四定律:機器人必須再生產,但不能違反第一和第二定律(Harry Harrison)
第六定律:即AIonAI定律,被賦予人類理性和道德感的機器人,應互相以兄弟相待(Hutan Ashrafian)
總結
以上是生活随笔為你收集整理的机器人三大定律的发展和演进概述的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 拍摄失败导致照片像素低,学会这个可以一键
- 下一篇: Python OpenCV 实现魔方识别