最早看到這個詞是在看綜藝的時候,一看到這個詞就好奇心爆發,馬上在網路上搜索了一下,剛看到的時候還蠻震驚的,因為我沒想到對於機器人,也是需要嚴謹的制定法則的~
覺得這個議題還蠻有趣的,就來分享一下了!


提到機器人,常常會一併提起的當然就是科幻作家艾西莫夫的「機器人三大法則」,這三大法則不僅僅對科幻小說有一定程度的影響,甚至在某些機器人工業也會常常被拿出來説,不過隨著科技日新月異的發展,也有人提出了這所謂的三大定律並不是完美的……

1942年,科幻小說家艾西莫夫在他的作品裏提出了「機器人三大法則」作為故事當中機器人的倫理守則。他所提出的定律是層次化的:

第一定律 機器人不得傷害人類,或看到人類受到傷害而袖手旁觀
第二定律 以第一條原則為前提,機器人必須服從人類的命令
第三定律 以第一和第二條原則為前提,機器人必須保護自己

他在小說中提出了三定律的很多變體。這些對機器人行為準則的修改成為他的很多故事的主線。

在《消失無蹤》(Little Lost Robot,《我,機械人》中的一個短篇)中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在《機械人之夢》(Robot Dreams,同名小說中的一個短篇)中,一個機器人做了個關於取消第一定律和第二定律的夢,導致了他的毀滅。在《機器人與帝國》中,一些機器人的系統中「人類的定義」被修改(說話沒有該星球的口音就不是人類),而攻擊人類。在1999年上映的科幻電影《雙百人》(Bicentennial Man,原為短篇小說,後改編為中篇小說《正子人》)中,一個機器人為了成為人,將自己的機械部分逐步替換成組織,並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。— 維基百科

這三大定律便成了許多作家在寫機器人方面的作品的一個基礎。

1985年,艾西莫夫在他的另一部作品中將三大法則擴大為四大法則:

第零定律 機器人不得傷害人類,或看到人類受到傷害而袖手旁觀
第一定律 除非違背第零法則,否則機器人不得傷害人類,或坐視人類受到傷害
第二定律 機器人必須服從人類命令,除非命令與第零或第一法則發生衝突
第三定律 在不違背第零、第一或第二法則之下,機器人可以保護自己

雖然艾西莫夫的定律被視為是科幻聖經,不過隨著科技的演變還是有許多漏洞的,後續也有些作家也對他做出了調整,像是讓第二定律不再置於第三定律之前(讓人類不能命令機器人自滅),或是讓機器人要一直認為自己是機器人(不會像某些故事中的機器人那樣把自己定義為人類就可以無視三定律),也因此出現了很多不同的第四、第五定律~

更多閱讀:
機器人三定律漏洞百出,人類對人工智慧必須保持充分的戒心!