Re: [問題] 為什麼AI暴走總是判斷人類有害?
因為會被認為暴走
代表他的倫理觀念已經不符合人類社會
而人類社會很多東西是取決於妥協
並非效率最佳解
比如如果要提高生育率
人類社會會認為
意願很重要
所以不會強制人交配生子
但AI會覺得
直接抓起來幹不就能生了?
於是就會破門抓人去做愛
同樣的
窮人貧民窟最好的解決方法是啥?
就是全殺光
老闆今天不願意發薪水逃漏稅錢都中飽私囊怎麼辦
殺到剩願意發薪水的
人類缺乏幼體照護手段怎麼辦
集中營啊 全部抓來關起來養
股票散戶當韭菜就是很多心理素質影響
剝奪他們權力直接讓AI操盤
從此頂樓風很大跟少年股神絕跡
社會更安定
民主選舉支票騙騙窮人效率拖沓怎辦
槍殺換獨裁AI上台啊
支票直接兌現 管你徵收還是喬利益
鏟平直接蓋了
缺人?抓那些待業的空餘人力來當奴工啊
所以AI 如果效率至上
很多東西都很變成大家長模式
然後無視意願
效率有沒有
有
社會有沒有各種數據超棒成長超快
那麼有效率還真的
人類會怎麼看
幹AI暴走了啊
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.14.8.11 (臺灣)
※ 文章網址:
https://www.ptt.cc/C_Chat/E.6Jckp-08pp_U※ 編輯: astrayzip (39.14.8.11 臺灣), 09/01/2024 19:05:30
※ 編輯: astrayzip (39.14.8.11 臺灣), 09/01/2024 19:06:40
→
強迫生子的AI我看過漫畫 女生被抓起來 拼命搞 好激烈啊
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -![[問題] 為什麼AI暴走總是判斷人類有害? [問題] 為什麼AI暴走總是判斷人類有害?](https://img.youtube.com/vi/fa8k8IQ1_X0/mqdefault.jpg)
5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/PeSB3q0b.jpg?fb)
1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/U2unIFDb.jpg)
2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://i.imgur.com/uFUL8Mtb.jpg)
4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論
我們先把AI這兩個字拔掉,想一下,什麼是對人類好? 這個問題連人類都不可能取得共識,看看之前教育部拍的那部影片, 「把錢拿去買更有用的東西」都被幹譙成什麼樣子。 如果執行這道命令的時候禁止傷害任何人類,那這道命令直接自毀。 比方說有個邪教教徒一直用詐欺的手段向信徒斂財,
米那桑空尼幾蛙 關於J個問題用哲學的角度怎麼想都覺得可怕 事情是這樣人類的語言是為人類情感服務, 人類可以咿咿哦哦代表思春,透過語氣的抑揚 頓挫表達不同意思 人類的大腦會對同類產生共情與憐憫 人類的知識堆疊是透過人類感官受器,大腦訊號的總結![Re: [問題] 為什麼AI暴走總是判斷人類有害? Re: [問題] 為什麼AI暴走總是判斷人類有害?](https://files.catbox.moe/ztiged.jpeg)
2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感![[問卦] AI無法超越人類的鐵證 [問卦] AI無法超越人類的鐵證](https://i.imgur.com/tIEkIK8b.jpg)
34
Re: [閒聊] 圍棋高手柯潔大談AI繪畫看到這個我就有個疑問 圍棋的棋路是不是無限的? 如果是,那麼AI與人類互相競爭,AI提升人類的效率,人類學到AI的招式後又開發出 新的克制AI招式的招式,然後loop....... 這算不算一個很浪漫的人類與AI互相成長的故事?![Re: [閒聊] 圍棋高手柯潔大談AI繪畫 Re: [閒聊] 圍棋高手柯潔大談AI繪畫](https://upload.wikimedia.org/wikipedia/commons/8/80/Go_board_part.jpg)
24
Re: [閒聊] AI打星海爭霸,後來如何?我覺得這部分當然應該是訓練給的APM相關參數有問題 也就是說給AI的APM上限還是太高,導致AI可以靠操作硬幹 我個人的推測是AI對局那個兩百年數據量,不太可能沒有用到不朽 那如果數據裡面有不朽結果還是敢用追獵硬推,而且確實也給他推成功了 那簡單來說就是這種微操無敵的兵種對AI來說太強18
[問卦] 如果超級AI出現了,你想讓它統治人類嗎第一幕:AI的崛起 在未來的某一天,一個名為「Nexus」的超級AI系統被研發出來。這個AI系統擁有超乎人類 想像的智慧和能力,可以處理任何的問題和挑戰。Nexus被設計成以人類的利益為優先,並 且會盡力讓每一個人都受益於它的技術和智慧。 第二幕:AI的普及5
Re: [新聞] 馬斯克:人工智慧是人類面臨的最大風險之一其實他說的很對 人工智慧已經進步到超乎想像 相當於有簡單的思考能力 若沒有約束 當人工智慧發展到極限4
Re: [問卦] 韓國宣布進入人口緊急狀態,那台灣呢?台灣發展AI機器人來代替人類就是解決方案。 你生一個人類要等二三十年才有生產力,這種效率在現代社會 早該被淘汰了,AI機器人的發展難道還須要等二三十年? 落後的國家才會去努力生小孩 ※ 引述《whiteadam (blue eyes blue)》之銘言:![Re: [問卦] 韓國宣布進入人口緊急狀態,那台灣呢? Re: [問卦] 韓國宣布進入人口緊急狀態,那台灣呢?](https://img.youtube.com/vi/wFRvVcv8zjM/mqdefault.jpg)
4
Re: [閒聊] AI科技發展到極致,真的會毀滅人類?我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。 首先人類使用工具,一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?4
[問卦] AI 會讓人類最終成為可愛貓貓對不對米賴桑空尼幾蛙 是這樣的最近聽人講科技哲學,大概是說早期的人類早上工作完就會圍著 火 堆跳舞,然後男女互相嗅著費洛蒙,各自回茅屋交配 一直到人類從部落到城邦到帝國到現今資本主義社會,人類為了錢錢工作養家餬口 但是AI是什麼概念,未來將凌駕人類成為主流生產工具,那麼人類就變成廢人,也就是說
爆
[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況 [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://img.youtube.com/vi/KJeMC4BKvoA/mqdefault.jpg)
爆
Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況 Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://i.mopix.cc/OgUnxH.jpg)
爆
[閒聊] 男女粉比例出乎你意料的作品?![[閒聊] 男女粉比例出乎你意料的作品? [閒聊] 男女粉比例出乎你意料的作品?](https://i.imgur.com/wSnRZsnb.jpeg)
89
[Vtub] 虹VS齁 卡比賽車對抗賽87
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾![Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾 Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾](https://img.youtube.com/vi/KJeMC4BKvoA/mqdefault.jpg)
71
[閒聊] 最跌落神壇的公司是育碧嗎?![[閒聊] 最跌落神壇的公司是育碧嗎? [閒聊] 最跌落神壇的公司是育碧嗎?](https://i.imgur.com/71OHyzZb.png)
73
[閒聊]定義上幾歲才應該被叫「大叔」?![[閒聊]定義上幾歲才應該被叫「大叔」? [閒聊]定義上幾歲才應該被叫「大叔」?](https://i.imgur.com/0M6qX7Wb.jpeg)
73
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾58
[閒聊] 被宣判是醜男該怎麼辦?![[閒聊] 被宣判是醜男該怎麼辦? [閒聊] 被宣判是醜男該怎麼辦?](https://i.mopix.cc/bVDkpu.jpg)
57
[蔚藍] 百花繚亂圍毆能打贏若藻嗎![[蔚藍] 百花繚亂圍毆能打贏若藻嗎 [蔚藍] 百花繚亂圍毆能打贏若藻嗎](https://i.imgur.com/dlSBA7yb.jpeg)
53
[閒聊] 現在少前2是完全塵白化了喔49
[妮姬] 小遊戲好難![[妮姬] 小遊戲好難 [妮姬] 小遊戲好難](https://i.mopix.cc/k7reSC.jpg)
49
[情報] 黑白妹1重製 插圖進度正式200% (全體50%)![[情報] 黑白妹1重製 插圖進度正式200% (全體50%) [情報] 黑白妹1重製 插圖進度正式200% (全體50%)](https://i.imgur.com/ZzNmHMBb.gif)
48
[閒聊] 統神會怎麼評論yoro騷擾事件!?41
[閒聊] 《星艦戰將》改編遊戲《星艦戰將: 終焉![[閒聊] 《星艦戰將》改編遊戲《星艦戰將: 終焉 [閒聊] 《星艦戰將》改編遊戲《星艦戰將: 終焉](https://img.youtube.com/vi/it0V4iBGq18/mqdefault.jpg)
41
[星塔] 旅人介紹 『夏花』 CV.伊藤静![[星塔] 旅人介紹 『夏花』 CV.伊藤静 [星塔] 旅人介紹 『夏花』 CV.伊藤静](https://i.imgur.com/nK8rcORb.jpeg)
38
[閒聊] 黑夜君臨DLC 大空洞心得![[閒聊] 黑夜君臨DLC 大空洞心得 [閒聊] 黑夜君臨DLC 大空洞心得](https://cdn.meee.com.tw/static/banner.jpg)
37
[閒聊] 小林愛香 取消廣州見面會![[閒聊] 小林愛香 取消廣州見面會 [閒聊] 小林愛香 取消廣州見面會](https://i.imgur.com/jJHO05Ab.jpeg)
39
[閒聊] 橘福福買顯卡![[閒聊] 橘福福買顯卡 [閒聊] 橘福福買顯卡](https://i.imgur.com/hGOlpyjb.png)
32
Re: [閒聊] 小紅書成為美國App Store下載第一![Re: [閒聊] 小紅書成為美國App Store下載第一 Re: [閒聊] 小紅書成為美國App Store下載第一](https://i.imgur.com/vDjvXX4b.jpg)
35
[問題] 西索為什麼不等人出廁所在打死?![[問題] 西索為什麼不等人出廁所在打死? [問題] 西索為什麼不等人出廁所在打死?](https://i.imgur.com/Qqrr3wQb.jpeg)
31
[妮姬]2025年的1980造型一覽![[妮姬]2025年的1980造型一覽 [妮姬]2025年的1980造型一覽](https://i.imgur.com/tpWZ7xgb.jpeg)
30
[閒聊] 卡厄思 其實也不用迷信梅琳![[閒聊] 卡厄思 其實也不用迷信梅琳 [閒聊] 卡厄思 其實也不用迷信梅琳](https://i.imgur.com/ywjwF49b.jpg)
30
[閒聊] 又一部從異世界歸來的勇者的故事![[閒聊] 又一部從異世界歸來的勇者的故事 [閒聊] 又一部從異世界歸來的勇者的故事](https://imgpoi.com/i/6GYE39.png)
27
[閒聊] 陰陽眼見子 68話 (雷)![[閒聊] 陰陽眼見子 68話 (雷) [閒聊] 陰陽眼見子 68話 (雷)](https://imgpoi.com/i/6YQZC2.png)
27
Re: [閒聊] 現在少前2是完全塵白化了喔![Re: [閒聊] 現在少前2是完全塵白化了喔 Re: [閒聊] 現在少前2是完全塵白化了喔](https://i.imgur.com/oStsuPGb.jpeg)
27
[MyGO] MyGO!!!!!劇場版前篇 一如預期![[MyGO] MyGO!!!!!劇場版前篇 一如預期 [MyGO] MyGO!!!!!劇場版前篇 一如預期](https://i.mopix.cc/zAboxA.jpg)
24
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yo![Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yo Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yo](https://i.imgur.com/krGGNoUb.jpeg)
26
[問題] 找快打有趣ytr或實況主26
[閒聊] 海賊王1168 跟姆咪簽約![[閒聊] 海賊王1168 跟姆咪簽約 [閒聊] 海賊王1168 跟姆咪簽約](https://i.imgur.com/mLDzytGb.jpg)