第65章 三大法則(第2/2 頁)
保護自身不受傷害,除非這與上述兩條相違背。
這是他以前在地球上很喜歡的科幻小說《我,機器人》中提出的。
雖然這三大法則也存在著一定的弊端:比如當兩個人互相傷害時,機器人不能看到人受到傷害而無動於衷,但如果它行動了,又可能對另一個人受到傷害,這時,機器人就有可能自毀。
在阿西莫夫的某些小說中,出現過這樣的場景。
還有,在《機器人與帝國》中,一些機器人的系統中“人類”的定義並不包括其他星球的人,這時,它們就會攻擊其他星球的人。
但瑕不掩瑜。
機器人三大法則,也有的人稱其為機器人三大定律,具有極高的現實意義,在地球上,就有一門學科,名為機械論理學,就是在這三定律的基礎上建立的。
在地球上,很多人都認為,三定律將成為未來機器人公認的安全準則。
對此,還有人在這個基礎上提出了一個“船新版本”:
4、人工智慧系統必須遵守適用於其操作人員的所有法律條文;
5、人工智慧系統必須明確表示它不是人類;
6、未經資訊來源明確許可,人工智慧系統不能保留或者披露機密資訊等。
這顯然就是針對某些特殊領域、特殊作用的機器人而提出的。
除了以上這些外,還新增過一條“第零定律”——機器人必須保護人類的整體利益不受傷害。
之所以提出這一條,是因為牽涉到一些其他層面的問題。
比如,為了維持國家和社會的整體秩序,人類制定了法律,有人觸犯了法律,必須要對他進行逮捕,甚至處以死刑。
這時候,機器人該不該阻止呢?
如果不阻止,顯然違背了第一定律。
而如果阻止,那就是觸犯了法律條文,影響了人類的整體利益。
而這,就是提出第零定律的原因——第零定律的重要性凌駕於三定律之上!
如果雙星文明的科學家將這些東西寫進賽克羅斯等智慧管家的底層邏輯中,當一些事情發生時,及時進行阻止,那雙星文明或許也不至於走到這個地步。
如果能制約好這些智慧管家,那這個文明說不定還是能有一些出入的。
看在這是自己發現的第二個文明的份上,餘宙還是決定幫幫他們。
而且,獨眼星人雖然數量不算很多,只有二三十億,但還算是比較可觀,或許也能為他提供不少的情緒值,進一步加速他與物質世界的聯絡度。
想著,餘宙從時間線中挑選出一個節點。
本章未完,點選下一頁繼續。