PTT推薦

Re: [新聞] 中國「機器人之光」失控暴走!瘋狂揮拳

看板C_Chat標題Re: [新聞] 中國「機器人之光」失控暴走!瘋狂揮拳作者
HarunoYukino
()
時間推噓15 推:15 噓:0 →:22

Homura: 我知道是設定,但是類似這種東西真的能放進程式當中去限制05/04 19:11
Homura: 機器嗎?

少前有在對這玩意做劇情。

416心智升級第一段就有提到禁止攻擊人類,有攻擊人類的意圖就會系統鎖機。

問題在於三原則是很空泛的

比如說以機械公敵(電影版)為例子:

把人類監禁限制其活動有沒有違反三原則?以電影的解釋是沒有違反

但是在人類角度來看就是智械叛變。


--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.70.231.240 (臺灣)
PTT 網址

poke00105/05 01:39三原則放進程式內要怎麼寫? 而且現場情況跟解釋上可以有

poke00105/05 01:40很多會衝突或繞過的情況

rockmanx5205/05 01:40想出3+1原則的自己都玩漏洞玩得超愉快了 帝國跟基地

rockmanx5205/05 01:40系列就是機器人以第零原則為基礎在幕前幕後各種操控

rockmanx5205/05 01:40人類歷史

shuten05/05 01:42三原則就是為了被鑽漏洞才創造的

shadow032605/05 01:43就跟大語言模型的各種監理規則一樣啦 都能繞的

shadow032605/05 01:44用大語言模型當人形機器人的AI基礎的話 就是那樣囉

j14758905/05 01:53跟人類一樣啊 一條一條細項訂出來 被鑽漏洞再補訂啊

ciike405/05 01:57三原則就寫小說好發揮的原則性設定,比黑暗森林還沒學術

ciike405/05 01:57

horrorghost05/05 02:01機器人三原則就文學創作啦

shintz05/05 02:37機器人只要學會"我是為你好阿"就能繞過所有限制了

john235505/05 03:24法律這麼多條都有縫能鑽了,三條規則是怎麼防

egg78105/05 03:27寫一堆IF有解嗎?

Snomuku05/05 03:27當機器人成為亞洲父母

tomhawkreal05/05 03:41如今的世界 AI開始廣泛運用在軍事上 當然會殺人

tomhawkreal05/05 03:42眼前比較迫切的是究責 AI如果誤殺 誰該擔起責任

chuckni05/05 04:26有很多方法可以通過現場解釋不同迴避三原則

rockmanx5205/05 07:15當下解釋也不是萬用的 基地系列就有兩個中招直接自毀

rockmanx5205/05 07:15

neerer05/05 07:46別再說三原則了,那個本來就是科幻小說家設定來給機器製

neerer05/05 07:46造矛盾邏輯,現實的工程師不會把三原則放進AI裡

dark201205/05 08:28機械公敵的情況更複雜,機器人不能傷害人類,也不能坐視

dark201205/05 08:29人類受到傷害不作為,但人類就是會互相傷害,只能叛變了

starsheep01305/05 08:37不能攻擊人類這條件超廢啊,蚊子停在你臉上現在能

starsheep01305/05 08:37不能打?

gon2nor05/05 08:45機器人三原則是艾西莫夫1942年寫的,他看到83年後的人還

gon2nor05/05 08:45在討論三原則一定會很開心

yezero05/05 09:05機械人三原則就是寫來給作者挑戰鑽漏洞的東西,這玩意不

yezero05/05 09:05是啥完善的設定。甚至說他是故意被做得不完善。

linfon0005/05 09:06三原則是只存在科幻劇的絕對制約...

lightdogs05/05 09:09就算真的加了一堆限制到ai code裡 實際情形要嘛ai受太

lightdogs05/05 09:09多限制表現不好 要嘛就還是能繞過

HolyBugTw05/05 09:15我不攻擊人類,我攻擊你正在坐的椅子

yyykk05/05 12:07放進程式內要怎麼寫?直接丟給 AI 聽他的解釋阿XD

b482458305/05 12:29光是不讓ai產色圖就一堆人想辦法繞過了