Re: [閒聊] 機器人三大法則有解嗎？

身為一個看過艾西莫夫作品、原子小金剛、浦澤正樹的PLUTO，還有一些有提到機器人受人類限制作品的大叔，看到這篇文章後有感而發，在此想發表一點淺見。
(PS:我還沒看動畫，下面對PLUTO是對漫畫的印象)

誠如一些回覆的版友所言，艾西莫夫當初在機器人相關故事中，設了三原則這個前提，其本質目的就是要嘗試打破。所以有不少故事會看到機器人在違反三原則的邊緣間遊走，而引發許多機器人混亂、矛盾、甚至自我毀滅的結果。

這邊有一點可能在討論中沒被強調，就是在艾西莫夫的這些機器人要裝三原則，並非法律規範的必要，而是不得不為。因為故事裡還有條不是討論中提到的第0原則的優先原則:正子腦型機器人如果不裝三原則，則無法正常運作。運作後一旦違法了，輕則當機故障，重則自我毀滅，再起不能。三原則對這些機器人來說，並不是法律規範那麼簡單的事情，用比喻的話比較像人必須呼吸空氣來維持生命，一旦違反就不能呼吸了的生理機能一樣。

當然這麼多故事中，也有少數的機器人角色，搞了第0原則來 成功地突破三原則限制，成為了比喻中不用呼吸也可以維持生命的超越存在。但大部分機器人還是難以突破。另外印象還有為了不讓間接或無意中違反三原則的機器人出事，而故意欺瞞機器人的漏洞故事。這個漏洞似乎只要不讓機器人意識到自己其實有違反了三原則，就不會故障。但如果它後來還是發現了呢? 因為看過的印象時間有點久，這邊可能就需要有人補充了。

然後我曾看人提到過，艾西莫夫在某些作品中，有出現過不再受限於三原則也可以運作的新型機器人。因為我自己沒印象看過這方面的故事，所以不方便討論這邊跑出了甚麼情節來跟三原則激盪。但我知道有個相關改編作品有明顯出現這種機器人，就是威爾史密斯主演的機械公敵(I, Robot)。這片就我的角度來看，算是呈現了大眾印象的三原則是什麼模樣。

電影裡面三原則沒那麼被強調是機器人得以運作、思考的根本，看到更多的是裡面的大眾認知的服從、安全保障機制，認為只要機器人有裝三原則，就不用擔心機器人對人類做甚麼危險的事情。然後根據電影慣例，黑幕搞出了不用三原則也能動的新型機器人，導致安全跟信任出了問題。片尾，被人懷疑有疑慮的新型機器人(不分是否是黑幕做的)，也沒有重新改造，而只能大批地封印起來。

這個作法基本上也可以拿去比對其他借用三原則設定的作品上。然後就會發現，機械公敵跟別的作品相比，其實真的比較接近艾西莫夫原本的作品。因為，它並沒有說，把新型機器人回去加上三原則就可以繼續使用了。因為艾氏設定中，沒有辦法這樣做! 這些可以違反三原則也不當機的新型，已經不需要三原則就可以運作了，哪把它加回去其實不會影響它們的存亡。如果真要加，就是新的奴隸控制程式，類似裡面的黑幕操作它們一樣。

這點方面，絕大多數借用三原則的作品，其實就跟這些新型機器人對待的方式一樣，只是把三原則當作西遊記中控制孫悟空的"緊箍咒"。在"不需要三原則也能行動"的機器人上面另外加了限制程式。為什麼? 因為人類就是害怕啊! 機器人就是比人強很多啊，要是做出對人不利的事情怎麼辦? 同樣的道理，如果有人發明了可以保證狗一定服從人類的晶片，會不會就有人要求所有寵物狗都要裝這種晶片? 可能會有愛寵人士反對，但一定也會有怕狗傷到的人支持。

印象原子小金剛系列有些機器人權倡導者，也就是基於這點，而提出不要給裡面的機器人安裝所謂的"三原則"。但這無形中也透漏，就是這個作品裡面的機器人，不用裝三原則也可以行動的事實，所以有時候才會跑出大壞蛋說:哈哈哈，我的機器人沒有裝三原則，受死吧!人類警察!(跟著原子小金剛衝壞人基地也算勇敢了) 的場面。

也因為這一點啊，我一直對PLUTO 有個角色的存在，感到有點不解。如果它是要遵守三原則才能運作的機器人，才比較有存在的道理。如果是只是把三原則當緊箍咒去控制機器人不去傷害人類的世界觀，那麼，緊箍一定有解的方法吧? 有必要對它的存在感到那麼大驚小怪嗎? 還是我一直誤解了PLUTO 的世界觀，裡面的機器人也是要有三原則才能行動的類型?

最後，講個日本ACG 後來常見的引用三原則的笑話場景。我最早是在椎名高志的GS美神中看到，裡面的卡奧斯博士做了新的機器人，卻被對方倒打一把才說自己忘了裝三原則。這基本上又是上面把三原則當緊箍咒的模式。其實，對某些意圖不軌的反派來說，要給機器人裝的根本不是三原則，而是"絕對服從自己"的程式。不然，如果今天你去征服世界，機器人看到人類防衛隊來抵擋，就說"我不能傷害人類"，然後反派大喊"可是你要服從我的命令"啊，導致機器人當場當機，這誰要看啊?

一點淺見，搏君一笑。

--
給全世界的孩子們愛與勇氣！！
這樣做的前提是－－首先讓他們感覺到恐怖－－！！
以一輩子無法遺忘的恐怖和衝擊，
使他們擁有一輩子無法遺忘的愛與勇氣！

by 富士鷹 操筆樂

--