Re: [閒聊] 機器人三大法則有解嗎?
以我看過有關機器人的作品,
艾西莫夫的「機器人短篇故事集」是單純探討機器人身為「工具」的意義,
而不是給機器人加上「善」、「惡」、「混沌」屬性的「異種族」
工具就是用來幫人做事的,成本低,效率高的就是好工具
為了省事,工程師要歸納出「好工具」的設計原則
首先人命最重要,「先講求不傷身體」,所以工具不傷人是首要考慮
再來就是工具本身,工具要有作用(接收並執行人的命令)才是好工具
第三,工具本身也有成本,耐用不易壞的工具也是好工具的必要條件
這種排序靠的就是價值高低的比較
照樣造局,我也來個汽車三法則
第一法則: 汽車不得因車禍撞死路人,或因安全設備不足使乘客受到傷害
(安全原則: 人命很貴,傷到人要賠很多很多錢!)
第二法則: 汽車必須執行駕駛的行車操作,除非駕駛行為會出車禍撞死人
(效率原則: 車不能載人到目的地,或是車上配備不能用,那我買車何用?)
第三法則: 在不違背安全和行車原則,汽車需要耐用不會損壞
(成本原則: 如果車動不動顧路,常常得上課,那這車用起來還真麻煩!)
因為是靠價值來排序,所以只要價值觀產生變化,原來的法則馬上就會混亂
車的安全設計有問題?只要賠的錢小於重造新車,那就沒問題啦!
法拉利妥善率不好換豐田阿提斯怎麼樣?看看車價,在路邊休息也不錯啊!
艾西莫夫創造出「機器人三大法則」就是用來打破的,
光是敘述三法則的矛盾處小說內容就很精彩充實
重點是人類設計的各種工具存在同樣狀況
「安全最重要」、「生命無價」僅管是主流共識
但事實上真的是這樣嗎?
--
※ PTT 留言評論
72
首Po乳體 剛剛在看網飛最新的冥王,裡面的機器人都一直提到,他們受到機器人三大法則的制約, 所以無法傷到人類! 然後法則如下 1.機器人不得傷害人類,或坐視人類受到傷害。10
所以你自己就已經提出有力的質疑了啊 光是第一條:「機器人不得傷害人類或坐視人類受到傷害」,就已經充滿矛盾了 要是按照第一條,機器人看到醫生動手術時甚至要衝上去阻止醫生== 第一條定律就已經足以讓機器人邏輯炸裂了 -----6
身為一個看過艾西莫夫作品、原子小金剛、浦澤正樹的PLUTO,還有一些有提到機器人受 人類限制作品的大叔,看到這篇文章後有感而發,在此想發表一點淺見。 (PS:我還沒看動畫,下面對PLUTO是對漫畫的印象) 誠如一些回覆的版友所言,艾西莫夫當初在機器人相關故事中,設了三原則這個前提,其 本質目的就是要嘗試打破。所以有不少故事會看到機器人在違反三原則的邊緣間遊走,而
10
[問題] 哪裡找得到艾西莫夫的機器人系列QQ?如題 一直以來都對科幻的題材頗感興趣 尤其在看了許多作品後 發現不少都說受到小說家艾西莫夫的啟發 所以一直很想拜讀看看他的作品7
[閒聊] Vivy AI沒設計安全機制是不是大錯?譬如機械公敵裡用到的機器人三大法則 一、機器人不能傷害人類 二、不違反原則一,聽從人類命令 三、不違反原則一二,保護自己 在這原則下除了最後爆發人類與AI衝突7
Re: [閒聊] 三體原作很屌嗎黑暗森林法則就跟機器人三法則一樣, 都是作者在小說的世界觀創作的法則而已, 兩個法則在小說內都被作者論破啦(神級文明和第零法則)。 大家不是也都會看到很多人在聊機器人和AI作品中講機器人三法則? 明明作品內沒有寫機器人三法則也是很多人愛講,7
[問卦] 台灣有人看艾西莫夫的小說嗎先簡單簡紹艾西莫夫,他的著作極多,最知名的是他寫的機器人小說,大家常聽到的機器 人三大法則也是由他創造出來的,基於他的小說所改編的電影也難以勝數,可以說是科幻 小說的長河。 有沒有艾西莫夫的八卦呢? --2
[問卦] 輝達的AI有寫入機器人三法嗎?第一法則 機器人不得傷害人類,或坐視人類受到傷害 第二法則 機器人必須服從人類命令,除非命令與第一法則發生衝突 第三法則1
Re: [閒聊] 第一部讓你傷透了心的作品看到這標題 腦中第一個冒出來的不是什麼感動、傷心的動畫 反而是艾西莫夫的機器人系列 我也很意外 可能是結局實在太惆悵了 . .
爆
[活俠] 如果能選擇的話還會加入唐門嗎74
[閒聊] 艾爾登法環 需要更簡單,因為我有小孩87
[閒聊] 妮姬玩2個月心得(抱怨)54
[蔚藍] 日本only場出事啦67
[討論] 為什麼這幾年迴轉壽司恐怖份子特別多49
[討論] 機器人大戰系列哪代最頂?46
[閒聊] 男生都覺得打電動應該贏女生?42
[妮姬] 泳裝毒蛇 skin介紹38
[奶子] 學校的體育老師 僅只一人的特別獎勵爆
[推投] 崆峒四姝vs其他34
[閒聊] 幽浮社 鬼滅之後下一個要做哪部動畫?34
Re: [閒聊] 鄉民們會做菜嗎31
[閒聊] xi鋼彈居然可以這樣玩?27
[閒聊] 哈利波特魔杖一卡通26
[閒聊] 活俠傳被突然的小梅劇情破防25
[閒聊] 活俠傳 簡直智障的說55
[閒聊] 鏈鋸人 東立中文版 170 出大事了24
[閒聊] 藤井聰太 初 “永世稱號” 取得!59
Re: [閒聊] 活俠 香圖 心相+1000000000000000000018
[閒聊] 以復仇來說,南宮淺幹得很成功ㄅ23
[閒聊] 活俠傳第二輪簡單心得(雷)43
[法環] 癲火之王雜魚確認?21
[妮姬] 2024泳裝活動完整PV18
[鳴潮] 鳴潮1.1劇情是不是抄小說帝霸22
[情報] 巴哈姆特動畫瘋七月新授權新番21
[法環] 吃屎哥是不是其實很勵志?20
Re: [閒聊] 鏈鋸人 東立中文版 170 出大事了50
[活俠] 夏侯蘭太太的雪山授業19
Re: [活俠] 如果壞結局女角帶著記憶重生(IF線)23
[閒聊] 高校艦隊補完 太短太短了的百年之歌