Re: [新聞] 中國「機器人之光」失控暴走!瘋狂揮拳
少前有在對這玩意做劇情。
416心智升級第一段就有提到禁止攻擊人類,有攻擊人類的意圖就會系統鎖機。
問題在於三原則是很空泛的
比如說以機械公敵(電影版)為例子:
把人類監禁限制其活動有沒有違反三原則?以電影的解釋是沒有違反
但是在人類角度來看就是智械叛變。
--
三原則放進程式內要怎麼寫? 而且現場情況跟解釋上可以有
很多會衝突或繞過的情況
想出3+1原則的自己都玩漏洞玩得超愉快了 帝國跟基地
系列就是機器人以第零原則為基礎在幕前幕後各種操控
人類歷史
三原則就是為了被鑽漏洞才創造的
就跟大語言模型的各種監理規則一樣啦 都能繞的
用大語言模型當人形機器人的AI基礎的話 就是那樣囉
跟人類一樣啊 一條一條細項訂出來 被鑽漏洞再補訂啊
三原則就寫小說好發揮的原則性設定,比黑暗森林還沒學術
性
機器人三原則就文學創作啦
機器人只要學會"我是為你好阿"就能繞過所有限制了
法律這麼多條都有縫能鑽了,三條規則是怎麼防
寫一堆IF有解嗎?
當機器人成為亞洲父母
如今的世界 AI開始廣泛運用在軍事上 當然會殺人
眼前比較迫切的是究責 AI如果誤殺 誰該擔起責任
有很多方法可以通過現場解釋不同迴避三原則
當下解釋也不是萬用的 基地系列就有兩個中招直接自毀
的
別再說三原則了,那個本來就是科幻小說家設定來給機器製
造矛盾邏輯,現實的工程師不會把三原則放進AI裡
機械公敵的情況更複雜,機器人不能傷害人類,也不能坐視
人類受到傷害不作為,但人類就是會互相傷害,只能叛變了
不能攻擊人類這條件超廢啊,蚊子停在你臉上現在能
不能打?
機器人三原則是艾西莫夫1942年寫的,他看到83年後的人還
在討論三原則一定會很開心
機械人三原則就是寫來給作者挑戰鑽漏洞的東西,這玩意不
是啥完善的設定。甚至說他是故意被做得不完善。
三原則是只存在科幻劇的絕對制約...
就算真的加了一堆限制到ai code裡 實際情形要嘛ai受太
多限制表現不好 要嘛就還是能繞過
我不攻擊人類,我攻擊你正在坐的椅子
放進程式內要怎麼寫?直接丟給 AI 聽他的解釋阿XD
光是不讓ai產色圖就一堆人想辦法繞過了
19
[問題] 為啥一堆人類與AI開戰的作品?這類的作品 我想大家應該看過不少 最一開始接觸的是機械公敵 也是機器叛變 由主角摧毀核心拯救人類 而再來就是底特律 變人 最後也是馬庫斯率領著要求智慧機器人權 引爆與人類的開戰 雖然能夠選擇和平輿論 但同樣還是有一個與人類全面開戰結局 而最近結束很紅的ViVY 同樣也是說明未來AI將與人類開戰 將造成大量傷亡的世界觀 感覺到 現在已經有許多的作品已經在暗示AI將與人類開戰 甚至毀滅人類14
Re: [閒聊] 元祖洛克人只是沒有感情的機器嗎?對嗎? : ----- : Sent from JPTT on my Asus ASUS_I01WD. 美版的應該是沒照設定走 感覺比較人性化,布魯斯應該是真的不爽洛克人8
[問卦] 想讓機器人說謊有違反機器人三定律嗎最近看了一個很真實的劇情 有一個恐怖組織想把AI機器人改成會說謊的AI機器人 但機器人說謊有否違反機器人三定律 機器人三定律是 1.機器人不得傷害人類,或坐視人類受到傷害。7
[閒聊] Vivy AI沒設計安全機制是不是大錯?譬如機械公敵裡用到的機器人三大法則 一、機器人不能傷害人類 二、不違反原則一,聽從人類命令 三、不違反原則一二,保護自己 在這原則下除了最後爆發人類與AI衝突X
[討論] 看永恆族一直想到老高的影片(有雷)內文有雷 永恆族故事最大反轉之一 就是發現永恆族與變異族都是天神族創造出的生命體(不太確定他們算生命嗎?) 注意到電影天神族這段敘述是使用 we built and programmed… 的句子 本質上天神族就是一群工程師6
Re: [閒聊] 機器人三大法則有解嗎?身為一個看過艾西莫夫作品、原子小金剛、浦澤正樹的PLUTO,還有一些有提到機器人受 人類限制作品的大叔,看到這篇文章後有感而發,在此想發表一點淺見。 (PS:我還沒看動畫,下面對PLUTO是對漫畫的印象) 誠如一些回覆的版友所言,艾西莫夫當初在機器人相關故事中,設了三原則這個前提,其 本質目的就是要嘗試打破。所以有不少故事會看到機器人在違反三原則的邊緣間遊走,而5
[問卦] ai三定律管用嗎?ai會自己投資自己 也會自己造機器人 再來就會自己寫法條 那三大定律還管用嗎 1.機器人不得傷害人類,或坐視人類受到傷害。2.在不違反第一定律的前提下,機器人5
Re: [問題] 為什麼AI暴走總是判斷人類有害?因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;3
Re: [閒聊] 就結果論來說威利博士的論點484正確的人 : 共處 : 威利博士認為機器人不該有感情,如果機器人有感情就會依照自己的思想行事,可能會 反 : 咬人類2
Re: [討論] 黃國昌被柯建銘一句話問到當機大家知道機器人三原則吧, 第一原則是機器人不得傷害人類, 或看到人類受到傷害而袖手旁觀; 第二原則是機器人必須服從人類的命令, 除非這條命令與第一條相矛盾;
63
[蔚藍] 茶會泳裝活動(X) 咪卡的成長活動(O)54
Re: [討論] 鳴潮知名度真的不如原神嗎?48
[閒聊] 日本人是不是不會畫醜女?(破爛跟丑女)50
[PM] MEGA快龍的特色是 心地善良44
[閒聊] 年輕人都不知道電話卡了嗎?45
[閒聊] 哈士奇真的不懂什麼叫保持距離39
[閒聊] 真的有鬧鐘叫不起來的人!?32
[閒聊] OpenAI投資人誤信SCP風格文檔是真的24
[閒聊] PTCGP A4卡牌洩漏59
[25夏] 女友如果全否定你興趣 會果斷分手嗎?24
[閒聊] 有人也喜歡矢野妃菜喜的配音嗎66
[今島] 分享一下PAD近況45
[情報] 葬送的芙莉蓮 14122
[GBC] 手島nari 安和すばる的髮型差分20
[奶子] 哇幹!比基尼蓮實的大木瓜!35
[閒聊] 刺客教條暗影玩家數破500萬19
[閒聊] 推薦醜女作品『令和妖神斑小姐』20
[25夏] Summer Pockets 16 好甜的約會17
[蔚藍] 檔 第一了16
[閒聊] 馬斯克重新開放更換ani的內衣16
[閒聊] 尼爾人工生命的音樂比自動人形出色?14
[寶可夢ZA] 大家覺得Mega嚕嚕米呆萌嗎?24
[閒聊] 宇宙兄弟漫畫即將在46集完結15
Re: [蔚藍] 夏空のやくそく(雷)22
[蔚藍] 聖亞的情人節劇情13
[閒聊] 你們下部隊後會自己解手遊每日嗎?14
[Vtub] 夏色祭新衣 魔法少女14
[25夏] 台灣有盛產寶石嗎?30
[閒聊] 小南的6000億張起爆符是壓倒曉的最後一根8
[FF14] 小吉扛了這招牌快15年 大家認為他會後悔嗎