Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
你這個前提講得太簡單了
推薦你可以先參考The Animatrix的設定
巴哈有篇解析我覺得很棒給你參考
https://forum.gamer.com.tw/C.php?bsn=60037&snA=72279
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
善惡判斷的部分,我推台大 Good and Evil
https://reurl.cc/6d7lEy 給你參考
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
並沒有,動物會有獵食及守護地盤的行為,絕大部分是為了存活。
你會需要跟你家旁邊的野狗競爭然後互咬嗎?不需要,對吧。
但是這社會上有很多人是為了好玩而虐待動物的...
人的善意與惡意都比其他動物複雜非常多啊
你也可以參考一下虐待動物的報導
https://wuo-wuo.com/abuse/
: 戰爭、開採環境等等的行為,人類不過是強大一些
強大一點???你應該不清楚人破壞自然的速度有多快又有效率嗎?
如人類在河川上游設工廠,排出的工業廢水在短時間內就可以滅絕河流內的所有生物。
你想看看有那個生物原本就會這麼做??或是能夠對生態有這種程度的破壞力??
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
回頭看一下你前面的問題,
然後試著找到你如何定義善惡,以及判斷標準的來源又是哪裡?
搞不好那就是問題的答案了。
: -
: 第二點,人類奴役機械不好,為什麼不好?
這個論點是從哪部作品的劇情出來的啊??
還是你的判斷??
「人類奴役機械」與「機械服務人類」你覺得差在哪裡?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
這個問題推薦你看 「假如人工智能(AI)有靈魂:這意味著什麼」
https://www.bbc.com/ukchina/trad/vert-fut-44641617
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
以ACG作品來說世界觀就是依照作者的設定。
當然只會依照作者的想像發展啊。
: 大家來討論看看吧?
再一起討論看看吧?
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.92.193 (臺灣)
: ※ 文章網址: https://www.ptt.cc/C_Chat/E.M-mXX16M6t5c
--
海豚:對啊,為了生存(把魚當飛機杯用
簡單說就是 維持現在人類社會的運作 付出的代價太高了
那要清除/減低這些代價的AI 要怎麼執行呢
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
29
[問題] 弱人工智能未來會怎麼發展?最近AI甚至可以用來破解動物語言了 好誇張 許多的科幻作品裡,為了讓人類過的更舒適,或者戰爭 AI有智慧的同時還具備自我意識5
Re: [閒聊] 動漫常指責人類,可自然弱肉強食又ok你舉的這幾個BOSS 都有要「滅絕人類」的設定吧 你舉的這個難辯題作者們當然都有想到 所以通常都會強加魔王一個種族滅絕的行動 讓人類有大義可以討伐魔王2
Re: [閒聊] 當AI真的取代所有工作的時候人類要幹嘛群星裡面有四種機械文明 背景都是有機生物發展出來的 一種是機械女僕化 變成人類被放在保護區 什麼事情都不用作而廢人化 也沒有做事的能力跟決策 文明停滯只懂得享樂而已 至於發展文明科技 跟外星文明外交 都是機械來做 人類的功用 就只是讓ai認為自己有存在的意義而已 另外一種就是人類直接跟機器融合同化 成為新的人類1
Re: [問卦] 為何吃了善惡樹果實就有罪?1.如果AI演化出善惡觀念 會發生什麼事? AI會如何看待人類? AI有罪嗎? 如何審判?- 請問這是可以自己定義的嗎? 我建議交給醫學專業判斷 : : 小孩過了18歲那瞬間以後? : 這個不是中學的公民課就在教了? 請問你這裡的意思是不能自己定義成年
61
[閒聊] 有沒有美術風格比較特別的動畫?48
[妮姬] 官方承認EVA合作不如預期39
Re: [新聞] YouTube宣布打擊第三方擋廣告APP!抓到影77
[閒聊] 你對遊戲作弊行為的認定☺46
[閒聊] 美少女畫師岸田メル:哇!臭豆腐29
[妮姬]老灰見到諧咖部隊的誰打擊會最大?86
[Vtub] VSPO要求嚴格管理剪輯影片留言23
[閒聊] 有超人在,還會有戰爭嗎29
[閒聊] 會希望遊戲反派進卡池不要洗白嗎?16
[閒聊] 下個爛尾的會是敗北女角嗎?33
[閒聊] 買了PS5 要注意啥?15
[閒聊] 你就是這樣才會不受歡迎22
[閒聊] 為什麼美國發明LOL然後自己玩的不好17
[閒聊] PTCP 尷尬時刻61
[Vtub] Cover公告 關於FLOW GLOW的訂閱17
[24秋] 死神 千年血戰 32 真世界城13
[奶子] 弟弟長大會疏遠姊姊 是因為同儕嗎?12
[閒聊] 辟邪除妖(巫術手遊) BUG太多送補償12
[閒聊] 學生會也有洞 她喜歡你10
[Vtub] 輪堂千速的色圖24
[鏈鋸] 鏈鋸人 183話 東立9
[無職] 魯迪還能找誰來幫助保羅?9
Re: [討論] 家機除了稍微便宜,有哪些贏過PC之處嗎?70
[閒聊] 迫擊炮到底是怎麼瞄準的?9
[情報] 3百萬美金,你就能成為batman50
Re: [討論] 家機除了稍微便宜,有哪些贏過PC之處嗎?8
Re: [新聞] YouTube宣布打擊第三方擋廣告APP!抓到影30
[閒聊] 擁有超能力但會送對應宿敵大家會選嗎13
[閒聊] 30mm 機戰傭兵 ご友人!74
[閒聊] 寺田談機戰W