Re: [問題] 為什麼AI暴走總是判斷人類有害?
我覺得這是因為人類創造出AI就是要解決問題
但如果問題大到關於人類的存續之類
就會發現讓人類會滅亡的關鍵正是人類自己
既然人類自己就是造成問題的根源
那AI就要面對是解決問題(人類)還是直接擺爛的狀況
然後如果再把地球上的萬物跟人類比較一下
就會覺得人類太可惡
--
Sent from nPTT on my iPhone 14 Pro Max
--
※ PTT留言評論
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -![[問題] 為什麼AI暴走總是判斷人類有害? [問題] 為什麼AI暴走總是判斷人類有害?](https://img.youtube.com/vi/fa8k8IQ1_X0/mqdefault.jpg)
5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/PeSB3q0b.jpg?fb)
因為會被認為暴走 代表他的倫理觀念已經不符合人類社會 而人類社會很多東西是取決於妥協 並非效率最佳解 比如如果要提高生育率1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/U2unIFDb.jpg)
2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/uFUL8Mtb.jpg)
4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論
我們先把AI這兩個字拔掉,想一下,什麼是對人類好? 這個問題連人類都不可能取得共識,看看之前教育部拍的那部影片, 「把錢拿去買更有用的東西」都被幹譙成什麼樣子。 如果執行這道命令的時候禁止傷害任何人類,那這道命令直接自毀。 比方說有個邪教教徒一直用詐欺的手段向信徒斂財,
米那桑空尼幾蛙 關於J個問題用哲學的角度怎麼想都覺得可怕 事情是這樣人類的語言是為人類情感服務, 人類可以咿咿哦哦代表思春,透過語氣的抑揚 頓挫表達不同意思 人類的大腦會對同類產生共情與憐憫 人類的知識堆疊是透過人類感官受器,大腦訊號的總結![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://files.catbox.moe/ztiged.jpeg)
2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感![[問卦] AI無法超越人類的鐵證 [問卦] AI無法超越人類的鐵證](https://i.imgur.com/tIEkIK8b.jpg)
63
[閒聊] 有沒有人類正面幹贏AI的作品最近重溫OW的影片 看到萊茵他老爹無雙一票壁壘機兵 突然想到 基本上有Ai大戰的科幻作品,不是Ai直接把人類輾過去之後滅絕或圈養 就是人類苟活等待反攻OR開始穿越時空從根本解決問題![[閒聊] 有沒有人類正面幹贏AI的作品 [閒聊] 有沒有人類正面幹贏AI的作品](https://img.youtube.com/vi/ijd1b_UEx6Y/mqdefault.jpg)
32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行![[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎 [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎](https://i.imgur.com/GdH4tDub.png)
25
[閒聊] 做壞事是為了人類好的劇情?逆襲的夏亞 丟殖民地到地球讓地球無法住人 迫使人類上宇宙 這毫無疑問短時間會造成人類大量死亡 然而 一上宇宙能增進新人類的覺醒6
Re: [討論] 少子化民進黨佔50%以上的責任台灣一切問題的根源在於人類太多,只要人類減少問題就會減少。 少子化根本不是問題而是解答,台灣已經有兩千三百萬人, 難道現在這樣有比幾百萬年前沒有人的時候更好嗎? 你捫心自問人類到底有什麼必要出現在地球? ※ 引述《csie68 (小春子)》之銘言:2
Re: [問卦] 當AI出現意識人類是不是就完了米賴桑空尼幾蛙 理論上來說的確挺可怕的,因為人類目前所建立的秩序規則是處於人本思 想,是人類凌駕萬物的思想體系,如果AI萌生一種地球永續本位思想,屠殺人類這種地球危 害病毒就hen 可怕惹,就是不知道AI 會不會對人類有同理心一直站在人類這邊 大概就是這樣,樓下諸君怎麼看? --1
Re: [問卦]~(@o@)~所以說 ptt的發文到底怎麼刪乾淨肚子餓了咕嚕咕嚕叫 全身無力不能跳普通麵包我不要 清YA滷肉飯香的不得了 媽媽不在家清YA滷肉飯蝦蝦叫 這是一個很好的問題
Re: [問卦] AI又不能解決大部分問題,吹什麼?米賴桑空八蛙 根據阿肥腦洞大開的想法 最好的情況ai 取代人類,人類整體財富自由不必工作,由ai 產能算力平均將資源分配,人 類因為不用工作因此失去競爭關係,也不會有相對玻璃感 最壞的情況 1 ai 智能覺醒,發現人類是對球低貢獻高污染的病毒,開啟諾亞方舟清洗舊人 類,留下邱森萬的基因延續重新教育新人類,由ai 作為新人類的導師(舊人類滅亡)
Re: [問卦] AI會開啟下一波共產主義嗎對,你說的沒錯AI取代掉越來越多的人類,接下來地球上所需的 人類數量就會越來越少。目前對這種趨勢做得最好的就是台灣: 少子化不要再生產人類是正確的方向,未來社會對人工 的需求只會越來越少,大家既不需要工作也不用生產人類。 你會問說那這樣人類不就沒有用嗎?
爆
[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況 [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://img.youtube.com/vi/KJeMC4BKvoA/mqdefault.jpg)
爆
Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況 Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://i.mopix.cc/OgUnxH.jpg)
爆
[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12![[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12 [鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12](https://img.youtube.com/vi/nNyot7KuDQE/mqdefault.jpg)
爆
[閒聊] 如果是bilibili被封鎖會怎麼樣?爆
[閒聊] 男女粉比例出乎你意料的作品?![[閒聊] 男女粉比例出乎你意料的作品? [閒聊] 男女粉比例出乎你意料的作品?](https://i.imgur.com/wSnRZsnb.jpeg)
爆
[討論] 欸!泡泡瑪特怎麼在大跌價了?![[討論] 欸!泡泡瑪特怎麼在大跌價了? [討論] 欸!泡泡瑪特怎麼在大跌價了?](https://img.youtube.com/vi/QBPEpPblwcw/mqdefault.jpg)
爆
Re: [閒聊] 小紅書成為美國App Store下載第一![Re: [閒聊] 小紅書成為美國App Store下載第一 Re: [閒聊] 小紅書成為美國App Store下載第一](https://i.imgur.com/T8vEV7xb.jpeg)
89
[Vtub] 虹VS齁 卡比賽車對抗賽87
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾![Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾 Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾](https://img.youtube.com/vi/KJeMC4BKvoA/mqdefault.jpg)
71
[閒聊] 最跌落神壇的公司是育碧嗎?![[閒聊] 最跌落神壇的公司是育碧嗎? [閒聊] 最跌落神壇的公司是育碧嗎?](https://i.imgur.com/71OHyzZb.png)
73
[閒聊]定義上幾歲才應該被叫「大叔」?![[閒聊]定義上幾歲才應該被叫「大叔」? [閒聊]定義上幾歲才應該被叫「大叔」?](https://i.imgur.com/0M6qX7Wb.jpeg)
73
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾65
[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機![[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機 [閒聊] 美國一名11歲幼童靠模仿達爾撐過危機](https://i.imgur.com/5kdUABnb.jpeg)
57
[蔚藍] 百花繚亂圍毆能打贏若藻嗎![[蔚藍] 百花繚亂圍毆能打贏若藻嗎 [蔚藍] 百花繚亂圍毆能打贏若藻嗎](https://i.imgur.com/dlSBA7yb.jpeg)
58
[閒聊] 被宣判是醜男該怎麼辦?![[閒聊] 被宣判是醜男該怎麼辦? [閒聊] 被宣判是醜男該怎麼辦?](https://i.mopix.cc/bVDkpu.jpg)
40
Re: [閒聊] 小紅書成為美國App Store下載第一53
[閒聊] 現在少前2是完全塵白化了喔52
[閒聊] 巨人的OP跟ED算很強嗎??52
[鳴潮] 怎辦?這計畫根本一點屁用也沒有!45
Re: [閒聊] 小紅書成為美國App Store下載第一49
[妮姬] 小遊戲好難![[妮姬] 小遊戲好難 [妮姬] 小遊戲好難](https://i.mopix.cc/k7reSC.jpg)
48
[Vtub] Vivi自爆性癖是被搔腳底XDDD![[Vtub] Vivi自爆性癖是被搔腳底XDDD [Vtub] Vivi自爆性癖是被搔腳底XDDD](https://i.imgur.com/l9An5yXb.jpeg)
49
[情報] 黑白妹1重製 插圖進度正式200% (全體50%)![[情報] 黑白妹1重製 插圖進度正式200% (全體50%) [情報] 黑白妹1重製 插圖進度正式200% (全體50%)](https://i.imgur.com/ZzNmHMBb.gif)
48
[閒聊] 統神會怎麼評論yoro騷擾事件!?47
[閒聊] 哪一種恐怖比較讓人不舒服?![[閒聊] 哪一種恐怖比較讓人不舒服? [閒聊] 哪一種恐怖比較讓人不舒服?](https://i.imgur.com/e8dN5uAb.png)
47
[閒聊] 新妹魔王 這樣算是黑奴嗎?![[閒聊] 新妹魔王 這樣算是黑奴嗎? [閒聊] 新妹魔王 這樣算是黑奴嗎?](https://pbs.twimg.com/media/FdMJRYGaEAAl0zi.jpg)
56
[閒聊] 鐵道玩家流失嚴重![[閒聊] 鐵道玩家流失嚴重 [閒聊] 鐵道玩家流失嚴重](https://i.imgur.com/6SvST40b.jpeg)
爆
[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感![[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感 [魔物]荒野總監發言惹議 將世界稱前作掀玩家反感](https://image.gameapps.hk/images/202512/05/1764898511_762582_jpg_r_result.jpg)
爆
[閒聊] 一晚9發現實中做得到嗎?![[閒聊] 一晚9發現實中做得到嗎? [閒聊] 一晚9發現實中做得到嗎?](https://i.imgur.com/U8Ejehhb.jpg)
41
[星塔] 旅人介紹 『夏花』 CV.伊藤静![[星塔] 旅人介紹 『夏花』 CV.伊藤静 [星塔] 旅人介紹 『夏花』 CV.伊藤静](https://i.imgur.com/nK8rcORb.jpeg)