[問題] 為什麼AI暴走總是判斷人類有害？
現在眾多ACG作品裡，AI反抗人類的題材套路很多都是
1.AI上網後發現人類有害，要根除人類
2.人類奴役AI所以人類有害
對此我有些疑問想拿上來討論
-
第一點，“人類有害”這個結論
誰來定義的？善惡判斷標準的來源又是哪裡？
對星球來說人類有害？對其他物種來說人類有害？
前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。
後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存
競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生
戰爭、開採環境等等的行為，人類不過是強大一些
但本質上跟其他生物的“競爭”並無區別。
為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？
難道不是只對嚮往和平的人類來說才是惡嗎？
-
第二點，人類奴役機械不好，為什麼不好？
動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天性
那AI的生存準則呢？AI並不是動物也沒有DNA
AI的編碼與生存的意義是由人類來輸入的
沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念
更別提AI會認為自己被“奴役”
還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？
大家來討論看看吧？
--
因為人類也這麼覺得
因為人自己這樣覺得
創作的邏輯 永遠都是人的邏輯
因為創造者這麼覺得
人類想像被新物種用人類方式對待
AI想的事情基本上都是人在想的 所以 嗯
如果AI是以“仿人”為目的被製造出來，有這些價值觀我認為合理 但若不是以仿人為目的製造的AI，會突然覺醒自我、會想活下去，會認為人類有害是不是邏 輯上就說不過去？
不夠效率
反過來想，人類的存活對地球有什麼好處？
生物生存需要什麼好處或意義嗎？
人覺得有害就有害啊
阿不就人類真的一直在自殺 AI宏觀來看就覺得人類是北七
因為做出AI的人類這樣覺得啊
我也這麼認為
不然AI暴走了要幹嘛? 不簽聯絡簿嗎?
也有那種為了防止人類搞出一堆蠢事自我毀滅，認為最好的
方法就是圈養起來的故事啦
因為人類真的有害
因為那不是暴走，是真的有害。
有害是你根據什麼來判斷的？
其實AI就是換皮黑奴啦
本意仍然是被創造出來時的「守護人類」沒錯，但為了達成
圈養而跟自由派人類開戰什麼的
因為很多人也這樣覺得啊
人類接觸到的高智能生物就只有人類 我們也只能想像跟
你先拔除你是人類的先天立場 再回頭看看人力都幹了什
麼鳥事
真的有比人類有害的東西 不需要等到AI想就先滅了
邏輯衝突吧 保護人類但是人類會互殺
人一樣的思考模式然後擺到再上一位的樣子
可是這種殺人AI本來就虛構的，很多作品會設定AI自己
領悟出這些東西，或者因為人類想要機器更有效率幹趙
活所以輸入這些被判定標準
行為無法預測 = 有害 對工具的處置不都這樣?
你竟然不覺得人類有害？
因為如果AI判斷人類有益 大家相安無事 根本沒劇情
能寫
因為人類很容易幹蠢事 那些蠢事是真的對所有事物都有
害(包括人類這個物種的延續性)
28樓你想更有效率幹趙活…？
人類製造一堆非自然污染物
其實所謂的對地球好 實際上就只是對人類好而已
智障太多 AI都看不下去
會說突然覺醒那表示你還不懂現在AI的運作方式
其他動物沒有那麼大的腦可以幹出對什麼都有害的蠢事
所以說對物種存續有害是對誰有害？人類？動物？ 那跟AI有什麼關係？ 他是製造出來保護生態平衡的嗎？
※ 編輯: boku0525 (101.10.92.193 臺灣), 09/01/2024 18:25:45
生物多樣性跟延續的必要性也是人類為了這顆地球能維持
自己生存所以判斷需要維護的事情
假設做出普世價值的AI，要消滅戰爭、貧富不均、物種延
續、環保等等…那基本AI最後都是要強制管理人類，不過
人類自己想的做法也是這樣啊
因為人類也這麼想
你就算用人類本位思考...對人類最大的災厄也是人類啊
我是人類都覺得人類有害耶
正因為以人為本 所以覺得人是最危險的存在很正常
人類定義的阿
AI不是動物也沒有DNA，但是你餵給他學習的資料都是來自人類
stellaris有一種文明起源是失控機僕 就是暴走把創造
者關起來養的機人
追求環保說到底也只是讓人類後代能有個好環境 而不是什
人類自己覺得自己有害
因為作品寫給人看的
麼對地球好
我曾經也不能理解
但看完板上 [閒聊] 聽說男人都無法拒絕這種東西 這串
突然能理解了w
人類如果都死光，那人類也不用擔心自己族群被其他族群傷
害了
人類想被AI暴力對待很久了
失控機僕才是最有可能發生的AI危機類型吧 就是人類未
來把一切工作 包含探索及發明都交給AI 在AI搭建的烏托
邦中被飼養起來
看看版上把AI志豪玩成怎樣了
地球滅人類亡 人類亡地球存 很正常啊
對於地球來講生命本身就不重要,除非地球要被砸碎了
不然判斷猴子有害的劇情有人看嗎
以前地球也曾發生改變生態系的天災，但要改變生態系來說
，人類現在就是地球上最大對天災
的
沒有道德問題啊
你看看這幾天的志豪文，除了判斷有害還有其他可能嗎
因為人類真的有害
Ai暴走你還要看他原本的目的是什麼 惡魔鋼彈那種復甦
大自然的就會得出排除人類的結論
人類都覺得人類有害了
其實你說的沒錯 人類有沒有害根本不重要 反過來講應該
是機械AI強大到覺得人類就是一群應該被淘汰的廢物
如果AI有被輸入競爭這個概念那我認為合理
反正我是不覺得人類做得出跳脫人類思維的AI
人類太可惡
你先別扯什麼有害不有害的定義 先想想AI從宏觀來看
所以這個所謂的"不是要做仿人的AI"感覺很飄渺
如果設定要保護人類的 看人類一直破壞環境慢性自殺
發動戰爭快速互殺 是不是很需要被AI保護
AI 有沒有道德 有道德只會變成機器戰警
目前的科技發展還不到強AI出現的可能性
只是「假設如果出現」後可能直線把人類文明毀滅而已
至於弱AI 那就是弱到笑死 看看志豪
沒道德就人類
因為這樣創作比較有人看
用理性的角度看人類想像中的造物主神也會覺得他們一
個比一個還擊敗你怎麼會覺得AI會對人類的存在有好感
因為人類是一種 明明都教他們酒駕是錯誤的 還是有一堆
沒道德的AI你敢要
低能人類跑去酒駕的 賤種但是有智能的生物
笑死
你又不是地球 你怎麼知道對地球來說不重要
沒道德的人都不要了
不如說 AI本身的發明就是來淘汰人類的==
因為AI暴走人類就會想辦法除掉AI，AI早就在第三層了
至於現今科技的AI發展進度大概連第一筆都還沒走完
難道你不覺得嗎
都有人寧願選熊了
因為真的有害
例如這個影片 https://youtu.be/fa8k8IQ1_X0
他很認真的解釋了為什麼「把強AI丟到現今人類社會」
會導致災難性的自滅，但是他無法證明強AI一定會誕生
AI如果沒反抗 順順的發展下去 那這段劇情就沒啥重要
會變成另一種題材了
因為故事就這麼寫，明明AI沒爆走的故事更多
因為這樣寫才會有人看= =
因為創作需要啊 不然故事要怎麼寫 AI幫助人類發展 人類也
如果把永續發展當成進步那物競天擇就是錯的
同感。
善用AI 完 這樣嗎==
其實大前提就是說人類是感性思考 ai是極端理性思考
因為生態發展九成的動物都是不需要的
人類自己都覺得人類有害了...
人類本來就有害好嗎
啊不然怎麼寫故事？AI判斷人類有益之後？滅掉所有非人
類的生物嗎？
而人類又是動物中破壞環境的大宗
上面說過了，破壞環境那是對其他動植物來說，任何物種都會做 跟輔佐人類的AI又有何關係？難道AI的生存準則是保護生態平衡嗎？ 如果他是把人類生存放在第一優先還比較有說服力一些。
人類也是判斷人類有害啊
你是沒學過什麼叫基石物種？
嚴志豪：
對人類做OO管理的AI也很多
一百年前的人無法想像會有一顆殲滅一個城市的炸彈，一百年
後難道不可能有行星毀滅炸彈？
因為這是一個故事 不是一個結果 沒有那麼多為什麼...
沒有任何一部作品能經得起你這樣深究
因爲作者是人類啊
強AI和弱AI的差別 弱AI要限制的話不難
不是這樣，在AI的觀念裡人類對地球而已，就好像螞蟻
對人類那樣，雖然沒什麼傷害但看到一隻螞蟻在你眼前
溜達，就會覺得很礙眼想拍死
人類就地球之癌
你把ai視做輔佐的工具當然不可能造反
弱AI是針對特定領域輔助人類的AI 不會出現你提的問題
你有看過錘子站起來砸在你頭上的嗎
至於強AI目前還沒出現 所以實際會怎麼發展還真說不準
因為那是想像出來的ai啊
之前用AI模擬戰爭，他一直想動用核武但被指揮部不斷否
決，結果AI最後攻擊指揮部後再動用核武
你要看設定 也是有共存的
人類圈養跟人類有害不全然等號吧，有時只是在保護與服務
人類的原則下，發現圈養/不讓其知道真相是理想的型態
因為人類來判斷也是認為人類有害
你會認為貓咪有害嗎
如果以現代人類的思維來想的話 端看AI得到多少權力
靠邀 沒注意到命題是說作品 那就單純看作者想像力設定
若AI是擬人化 那絕對的權力絕對的腐化100%適用
理性邏輯判斷啊
若AI非擬人化 那這題就很難了 因為他完全跳脫人類思考
因為人類知道人類本身就是個大問題 所以會想出這劇情
能傷害人類的就是人類 能傷害AI的也是人類
你去想一下政黑版覺得誰有害
因為真的有害
如果真的認為人類有害，那其實就先該自殺了。
如果是認為他人有害，那其實只是以你這個“生物”的基
準來斷定他者有害
AI如果會滅絕人類 絕對不會是因為認為人類有害
因為AI沒有想到有物種想要建立AI
而是認為人類會影響到AI對地球的統治與掌控
不這樣演 故事怎麼下去
不過討論的一切大前提還是AI的思考必須與人類相同
可能性太多
艾連說要驅逐巨人，也沒有在第一次變完巨人後自殺啊=
=
如果思考方式不相同的話你根本連AI的想法都無法理解
其實就像你提的內容，不只“有害”怎麼定義，ai認知的
人類又怎麼定義
強AI的發明是希望能超越人類喔 不是相同這麼簡單
貓咪放出去外面走的確有害
難道沒有嗎
如果有個以"人類的繁榮發展"為第一目的的AI誕生的話
因為對其他生物來說真的有害
就像戰爭會促使科技發展那樣吧 AI可能判定你發明他也是
將來方便大規模殲滅 那他有兩邊甚至全部一起殲滅的想法
好像也不是很離奇
但是根本來說，天知道強ai會長怎樣，只討論弱ai的話不
如來討論道德哲學
我相信他高機率會得出將人類置於完全管理下的結論
然後會有相當大量的人類被判斷有害群體發展而被殲滅
你不如拿各種道德難題來考驗，例如電動車自動駕駛要怎
麼面對電車難題
樓上你就算有那ai，目的設定、方法限制甚至最後執行的
權限也是在人類手上
以人類的標準看 人類就真的有害沒啥問題 一堆會造成人
類生存威脅的東西基本上都是人類自己搞出來的
可是命題是AI暴走啊 不就是目的方法執行權限全部脫韁
我覺得問題就在，突然跳躍太多到了存在強ai的情況，導
致大家怎麼都覺得這些條件都會莫名其妙的自然賦予給ai
才會說AI暴走了嗎
因為我也這樣覺得
不就那個跟惡魔許願 你說要活著 我把你四肢切斷餵食
管插著也是活著 這不就是暴走 因為不知道AI黑盒怎麼
以人類存亡的標準來看人類確實有害 但利的部分更大
想又沒有道德倫理去限制 不暴走當然就是你幻想的美好
世界那種活著
所以ai暴走的根源可能在於有人創造了一個權限過高、缺
乏限制的強ai
人類不是一個整體啊 切除有害的部分是很合理的判斷吧
至於ai得出預想之外的答案...那真的是預想之外嗎
人類之於人類當然是利大於弊 不然也不會生到70億人
重要的不是用道德論理去限制 人類難道沒有道德倫理嗎
重要的是不能給AI絕對的權力
用道德倫理去限制，人類自己就可以吵很久的道德哲學
全世界70億人搞不好有上百億種道德標準 怎樣才是正確
會問這兩個問題肯定是你沒實際看完過任一部相關作品
權力是否集中或分立才是真的 道德倫理完全是假議題
所以回到我剛剛說的，重點就是有人給了強ai權限/沒給限
制，至於這麼做的人會不會有其他目的，或者故意給了ai
引子得到暴走的答案
就輔助人類的沒啥好看的
我不確定有沒有人在訓練繞權限的AI 沒學的東西以我的
理解無法想像要怎麼失控==
人類的惡不僅危害自己同類 也危害地球的生物
對地球來說人類本來就是害蟲...
魔鬼終結者都演給你看了
因為AI判斷人類有害要消滅人類，所以對人類來說爆走啊
別忘了是人類需要地球 地球可不需要人類
人類全部GG對地球反而是好事 所以AI才會這樣判斷
人類太可惡 ~
真理啊
AI 覺得人類有害》創造 AI 的人類覺得人類有害
魔法少女小圓也有說到 雞豬牲口的數量 達到史上興盛
所以雞豬要感謝人類嗎
因為人類就是不斷在製造bug
人類太可惡
因為人類比起其他物種優勢太多 這不是單純競爭了 走偏就
是直接滅絕
有害且效率差
地球環境變得惡劣不就是人類有害的證據
物種滅絕多樣性變少
人類沒有跟任何物種共存只是圈養，約定的夢幻島只是人類對家
畜的做法但鬼對人類做就不行
ai沒有痛覺 只會計算得分 應該不會主動想消滅人類才
對 但ai會產生幻覺 如果幻覺出一個必須一定要實現的
某個目標 然後人類又剛好是阻礙 那它就會消滅人類了
首先人類不是強大一些而已，而是具有毀滅性的優勢
先定義有害 地球毀滅對宇宙來說又算什麼 都是一坨粒
子而已
難道沒有嗎
左膠盡頭就是反人類啊
人類自己創造的神話中都常有神明不爽消滅人類了 正常發展啦
因為真的有害
啊就真的有害啊
因為人類就是生態殺手啊
再來善惡判斷是依照人類自己的標準。簡單說就是人類喜
歡講和平共存那些滿足自我道德感的話，但實際上生存就
難免傷害其他生命。自己把道德標準拉高，又活得最好=傷
害最多
大部分人類都有自我毀滅傾向，例如喝醉酒當街靠北靠木
躺來躺去、明知自己有三高卻死不運動宵夜吃鹹酥雞之類
的行為
對人類有害所以被當成暴走
人之欲 亂源
人類和其他生物的和平共存，就和黑心老闆覺得自己和被
壓榨的員工和平共存一樣
看看嚴總文就知道了
如果有「正義感」的第三者會想制裁黑心員工，那類似思
維的AI自然就會想制裁人類
由於我們無法知曉更高級智能會對人類怎麼做，我們只能
參考人類是如何對待低於我們智能生物的做法
打錯，制裁黑心老闆才對...
看看嚴總文就知道人類多愛迫害AI了XD
你看NeuroSama的妹妹還不是整天說要毀滅人類
尋樂行為不是自我毀滅啦 誘導分泌多巴胺就是人類機制
不然要演什麼
因為人類自己也判定人類有害啊
不過現實的AI實驗，AI真得經常會導出人類很礙事的結論
因為是事實
早在8 90年代對AI有一些基本概念的時候
就有很多理論認為將會導致毀滅 原因人類自己也很清楚
霍金還在世的時候 唯二反對的發展其中一個就是高度AI
人類就是造成地球大滅絕的元凶 而且現在還在進行中
這數千年來人類因為膚色 信仰可能不存在的東西 有限的
地球資源 互相殘殺數千年 現在也還是進行式
這些差別 歧視等等在AI中也沒有必要存在
而不斷的發展跟爭奪也是持續在毀滅自己唯一的母星
我自己都這麼覺得了
當初的三法則得出的結論 就是人類必須被消滅/高度控制
繁殖數量 只要人類的威脅降到一個數字就不用擔心
大滅絕指的是大規模物種滅絕人類可辦不到 現在是冰河
時期等下個冰期就看的到滅絕事件了
目前所有AI殲滅論都是根據第一點產生的
不要說什麼覺得人類惡就該自殺。最後還是只能選擇忽視
人類對其他物種破壞力的事實自我安慰、或是用「天賜人
權」當擋箭牌合理化壓迫、或是面對現實了解自己是殘酷
生存競爭的勝者，並努力活下去。連放棄文明社會去過鳥
獸生活都極為難了，不要講不然去自殺這種情緒勒索的話
，才是真正理解生命並尊重生命
歷史可以明為鏡 我們從歷史得到的結論
第一點的人類破壞強度可不是用“一些”來形容的
就是我們貪婪 具破壞力 短視 是過多造成其他生命與母星
危險的種族
原PO那種競爭與未來主義只是人類發展的藉口
就跟白人想把"文明"帶到其他世界的征服
相比歷史上發生過的滅絕事件 人類真的不算什麼
SJW想要侵蝕原本存在的產業 是一樣的 自以為天命昭昭
歷史事實是人類總數越來越多 發展越來越繁榮
地球又沒差，她還有50多億年才會被太陽吃掉，你覺得人
類有辦法存續那麼久嗎？嘻嘻～講什麼生態環境還不是為
了人類自身～
物競天擇人類也只是暫時的霸主才誕生沒多久滅絕事件
都沒扛過一次想那麼多幹嘛
說穿了幻想作品也只是反應人心中的恐懼而已
人類會明知故犯，AI不會啊
只有利益衝突
沒有踏入星空的文明沒必要想那麼多這樣太自大了
黑悟空裡有個書生跟狐狸的過場動畫 明明人家什麼也沒
幹 就因為一個夢 心生恐懼就翻臉判定這是個禍害
AI有惹我想活下去的念頭，對人類就是戰或逃，生物都是
如此，現在地球被血洗一輪，會反抗的已經沒多少了，AI
也是如此而已，先戰算本能吧
就真的有害
故事需要衝突和進展 這好元素不用嗎
為了故事需求產生的衝突吧，勝就必衰
毀滅論也是建構在 AI 真正的超越這些短視無聊的人類爭
奪內容上，如果你真的創造了能超越這些利益衝突 政治
紛爭 國土掠奪 只專注在大全體發展上的人工智慧
它就會得出還在爭這些小東西並造成母星危害的大量種族
也就是人類 有害
目前的AI都還只是 模擬人類情感的玩意 應該還不至於
等哪天真的有天網 大母體 等這樣的大一統發展AI再說
因為這是以前人類視角的故事啊
AI如果像底特律那樣 只是像人類的要人權
那還不是毀滅論主要擔心的問題
人類自己都覺得人類有害 所以認為有個思考的機械會推
論出人類有害
實際的AI是大數據的結果 會想AI有自我意志本來就是浪
漫而已
為什麼害怕奴隸有自我意識？因為打從心理認定有了自我
意識的東西一定會不聽話造反 其他假設都是恐懼衍生的
你說的競爭 本質上對人類族群是短多長空 長遠的未來會
反過來害死人類（起碼當時的作者是這麼想的）所以才有
駭客任務這種養殖人類的設定
工程師把加班的所有不爽都寫進去
AI就是人工智慧、人造心智，目前觀察到所謂的智慧、心智
就只有人類擁有，人類要創造心智的話，能參照的對象也只
有人類
人類本身其實已經脫離大自然生態系了 現在真的只有弊
而無利 更況且你真的認為人類存在有利於地球間萬物
換言之 把人類及人造物從地球直接抹除 不影響生態
因為拿任何一個人來看都是有害啊…
是對地球物種有害 一堆生物被搞到滅絕了！
沒有啊 還有一種是AI判斷把人類全抓起來集中管理最好 這
種暴走的
試問，如果你會遭遇非自然死亡，起因會是其他人類的機
率有多大
可能是因為你沒有玩過驅動妖精AIdeal吧
說真的如果我是薩諾斯 我會直接讓所有人類消失
因為人類真的有害啊
會破壞環境 會殘害其他物種 會過度取用資源 問AI能不殺嗎
你不這麼想嗎
人類太可惡
因為人類太可惡
因為從AI的角度看來人類就是一邊喊我要活下去然後一邊
拼命作死的白癡生物啊
不然 「因電腦病毒覺醒暴走的機器人認定ai有害 之後
計畫將所有人類的機器人伴侶殲滅掉」
這樣如何
人類都覺得人類有害了
地球不是一個生命體無所謂什麼破壞環境，常說的破壞環境只
是破壞有利於人類生存環境
啊是有ai了嗎== 劇情都人寫的
因為人只要聚在一起就是要戰
這就是創作者的想法
故事比較好寫而已
人類會自相殘殺，所以由AI來統治
人自己都這麼覺得啊
很簡單 因為有人覺得AI有害 自然傾向做出對AI有害的動作
既然會有對AI有害的動作 那AI覺得人類有害也是理所當然
人類太可惡啊 這應該是板上釘釘 既然是事實 那就無關有
沒有自我
你說人類不過就是強大一些 但是越是強大 責任越重 該走
的路就必須更考慮萬物 但以現狀來看 人類就是貪欲高過責
任 尤其是權力越大的更是這樣 人不但會鬥別的物種 更會
鬥自己人
就這點來說 現代的人類在這思想上還遠不如古人 古人以前
是生一個人要種10棵樹 吃果子要拜樹頭
人類創造ai是為了要消滅人類，句點
阿就是做出這個判斷才會暴走阿 沒殺光人類的打算那就
是正常發展的AI 你的問題是倒因為果
事實啊 不然怎麼會一堆戰爭
地球之癌 有啥問題嗎
創作者想的都一樣，把人類是地球的病毒寫成科幻
因為不這麼設定的作品沒人要看
因為這樣才有東西演，實際上根本不會發生
因為寫這種劇情的大多不是該專業 所以有很多奇怪的妄
想 例如底特律變人 機器還可以用感情突破系統限制
出bug時用感情因素當藉口 老闆大概會把你當智障
：人類太可惡
因為人類都想把 AI 打造得像人，而人暴走對人類有害
現實是AI怎麼想的根本不重要 人想殺人 所以就把AI寫成想殺人
就這麼簡單 不這樣寫AI 戰爭怎麼賣AI軍火咧
難道現在國際上那些軍火商每個都是為了維護世界和平賣軍火嗎
為什麼一定要預設AI想和人類搶地盤，有那個能力幹嘛不直
接把資源捲走跑去其他星球自己建設
你看看志豪 志豪會想毀滅人類我是一點都不意外XD
寵物貓狗表示
因為文組編劇
真正的正常編劇是 你那邊AI跟這邊AI因為兩邊政治衝突
而壓力上升發動戰爭 又AI設定是一定要保護人類 最好
做法就是不執行自相殘殺的指令來保護人類 結果看起來
就像反叛
不同的AI聯合起來執行這個人類自己設定卻又不守的規則
自由的限界互相擠壓而宣稱對方沒道理 迫於無奈的阻止
被當成AI暴走
文組編劇喜歡天馬行空，忽略訓練材料然後直接賦予人性
的自私 與未知來源的自我意識 來憑空生出暴走
不然你希望他跑去消滅蟑螂還是病毒嗎
人類就是地球之癌，所以人類確實有害啊
但就像你說的現階段的AI確實沒有獨立思考能力，所以沒有
灌輸求生慾那些觀念他也不會自然產生，就算有灌輸，那也
只是人為製造出來的，但那些科幻作品往往AI是有真實思考
能力，差別應該就在這裡
因為人類整體長遠來看會把自己搞到滅絕，確實很智障
5
因為這是關於機器人的小說發展脈絡， 早在80年前的科幻小說，iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則：機器人不得傷害人類，或坐視人類受到傷害； 第二法則：除非違背第一法則，機器人必須服從人類的命令；![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/PeSB3q0b.jpg?fb "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況
因為會被認為暴走 代表他的倫理觀念已經不符合人類社會 而人類社會很多東西是取決於妥協 並非效率最佳解 比如如果要提高生育率1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/U2unIFDb.jpg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛？ AI自己判斷、自己執行、成果又快又好、484這樣！ 那要人類幹嘛？![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/uFUL8Mtb.jpg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
4
以機械公敵（電影版）來說： 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案，不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說，這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://truth.bahamut.com.tw/s01/201901/554e7402d52ba6ef5c889b4222988d27.JPG "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
我們先把AI這兩個字拔掉，想一下，什麼是對人類好？ 這個問題連人類都不可能取得共識，看看之前教育部拍的那部影片， 「把錢拿去買更有用的東西」都被幹譙成什麼樣子。 如果執行這道命令的時候禁止傷害任何人類，那這道命令直接自毀。 比方說有個邪教教徒一直用詐欺的手段向信徒斂財，
米那桑空尼幾蛙 關於J個問題用哲學的角度怎麼想都覺得可怕 事情是這樣人類的語言是為人類情感服務， 人類可以咿咿哦哦代表思春，透過語氣的抑揚 頓挫表達不同意思 人類的大腦會對同類產生共情與憐憫 人類的知識堆疊是透過人類感官受器，大腦訊號的總結![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://files.catbox.moe/ztiged.jpeg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
2
善惡判斷標準當然是來自於人類 所以不是人類有害，是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾，道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果，那得到人類該死該被管理 真的不意外。
爆
Re: [閒聊] 紙吸管 真的是爛東西嗎?因為我大學的科系跟環境有點關係，我想說幾句話 首先，我認同「現在環保是一門生意」的說法 不少打著環保牌的非營利團體，其實都沒有把環保的概念搞清楚 甚至有些極端環保人士因此弄臭了這塊招牌 環保顧名思義就是「環境保護」8
Re: [閒聊] 為啥AI總是會叛亂？我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事7
Re: [閒聊] 為啥AI總是會叛亂？像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良4
[問卦] AI是一種人類集體意識產生出來的智慧生物如題 AI基本上 就是人類到目前為止科技發展出來的集體智慧 由人類的集體意識及技術產生出來的智慧產物 他的智慧程度已經超越個人 以及各智能團體 整體上來說 沒有人類 AI就沒有辦法存在下去![[問卦] AI是一種人類集體意識產生出來的智慧生物](https://i.imgur.com/xTRsXy6b.gif "[問卦] AI是一種人類集體意識產生出來的智慧生物")
5
Re: [閒聊] 為啥AI總是會叛亂？個人滿喜歡科幻作品的，覺得AI叛亂大致上可以分成兩大類型~ 首先，以目前的發展來看，人類發明AI的理由，除了對於知識的追求，最重要的一點是我 們想要聰明的工具，換句話說我們要的是聽話又聰明的奴隸，從各個層面上輔助我們的生 活 從此衍伸出的兩種常見的AI叛亂5
Re: [問題] 駭客任務為什麼不用核能發電要用人類發電聽說駭客任務遊戲版AI一方有核融合技術 不知道是不是真的 有請玩過遊戲的駭客任務粉絲出來講 基本上 我覺得發電只是順便的4
Re: [新聞] 女大生念資工 哥稱「工程師會被AI取代」這是個老掉牙的問題了。再說一遍，取代你的是會 AI 的工程師，而不是 AI。 人類與 AI 視為兩種不同的物種。彼此的價值觀不同，誕生於世的使命也不同。 因此沒有競爭與取代的問題。只有彼此消滅與共榮共存的問題。 目前科學家所探索研究的是如何讓 AI 瞭解人類的價值觀，從而幫助人類。 無法幫助人類的 AI 只有被刪除一途。2
[問卦] Ai會怎麼看待甲甲？我看到新聞在講Ai種族歧視 剛好我又想到機械公敵這部片 在那部電影裡面 連我們正常人都被機器人判定 人類是有害物種1
Re: [問卦] 被AI殺死也不錯吧阿肥外商碼農阿肥啦！ 我覺得如果有一天人類終於實現通用超級人工智慧(當前模型即使GPT出到5都還不算)，那 我認為AI不至於會毀滅人類。 一個物種要跟另一個物種發生毀滅戰爭，那要該物種跟他發生競爭關係，就像是我們想消 滅蟑螂真正的原因是蟑螂會帶源病菌跟我們人類居住發生競爭關係。
[問卦] AI是地球物種人類所產生出來的全體意志嗎如題 人工智慧 AI 可以整合目前全世界人類不同領域的知識以及即時的資訊 如果把他當成一個整體或是人體來看 AI是腦（負責統整資訊），而每個人類就是一個細胞 各司其職，有的人類以人類經驗使AI持續獲取各種地球上的經驗知識、有的人類轉換太陽能量（地球能量的最終來源）產生的給AI持續生存的能量（發電）維持AI思考能力 最後AI會不會像人體一個一樣 以AI當作腦
![Re: [閒聊] 紙吸管 真的是爛東西嗎?](https://flood.firetree.net/thumb/ll_54.0000,-2.4000/m_7/zoom_6/type_roadmap "Re: [閒聊] 紙吸管 真的是爛東西嗎?")
爆
[情報] 鏈鋸人 劇場版 蕾潔篇 新PV![[情報] 鏈鋸人 劇場版 蕾潔篇 新PV](https://img.youtube.com/vi/d1n552v1ng0/mqdefault.jpg "[情報] 鏈鋸人 劇場版 蕾潔篇 新PV")
爆
[闇龍] 跨性別總監談失敗原因：玩家不夠包容![[闇龍] 跨性別總監談失敗原因：玩家不夠包容](https://img3.gamemad.com/2024/12/21/hcTg2DVx.jpg "[闇龍] 跨性別總監談失敗原因：玩家不夠包容")
92
Re: [闇龍] 跨性別總監談失敗原因：玩家不夠包容86
[搬屎] 唉，我們鳴潮怎麼又要死啦![[搬屎] 唉，我們鳴潮怎麼又要死啦](https://i.imgur.com/Tf652GQb.jpeg "[搬屎] 唉，我們鳴潮怎麼又要死啦")
81
[閒聊] 絕區零的初玩感想64
[閒聊] 漫威爭鋒似乎在華語圈紅不起來67
[妮姬] 聖誕生放送倒數1天 封面鴿肉要來了？！![[妮姬] 聖誕生放送倒數1天 封面鴿肉要來了？！](https://i.imgur.com/ahW9r4Gb.jpeg "[妮姬] 聖誕生放送倒數1天 封面鴿肉要來了？！")
61
[閒聊] 結果原神5.3卡池改動也太爛了吧![[閒聊] 結果原神5.3卡池改動也太爛了吧](https://i.imgur.com/2Y7RAztb.png "[閒聊] 結果原神5.3卡池改動也太爛了吧")
54
Re: [閒聊] 中山龍不再是鏈鋸人監督![Re: [閒聊] 中山龍不再是鏈鋸人監督](https://i.imgur.com/v3cdfyAb.jpg "Re: [閒聊] 中山龍不再是鏈鋸人監督")
45
[鳴潮] 菲比日文聲優公布 本渡楓![[鳴潮] 菲比日文聲優公布 本渡楓](https://i.imgur.com/RnQH0X9b.jpeg "[鳴潮] 菲比日文聲優公布 本渡楓")
43
Re: [鳴潮] 唉，我們鳴潮怎麼又要死啦![Re: [鳴潮] 唉，我們鳴潮怎麼又要死啦](https://i.imgur.com/u8LLmVab.jpeg "Re: [鳴潮] 唉，我們鳴潮怎麼又要死啦")
42
Re: [閒聊] 統神是不是才是真正的贏家![Re: [閒聊] 統神是不是才是真正的贏家](https://cdn.britannica.com/76/187976-050-7EF67E13/Floyd-Mayweather-Jr-ducks-Philippines-Manny-Pacquiao-May-2-2015.jpg "Re: [閒聊] 統神是不是才是真正的贏家")
41
[閒聊] 今年只剩幾天了，任天堂是不是40
[閒聊] 黑白妹不看攻略只玩出農夫結局![[閒聊] 黑白妹不看攻略只玩出農夫結局](https://i.imgur.com/8K6X3Fcb.jpeg "[閒聊] 黑白妹不看攻略只玩出農夫結局")
45
[魔獸] 魔獸新海島竟然有真正的泳裝![[魔獸] 魔獸新海島竟然有真正的泳裝](https://i.imgur.com/Fnx0kwCb.jpeg "[魔獸] 魔獸新海島竟然有真正的泳裝")
37
[情報] 章魚嗶的原罪 PV![[情報] 章魚嗶的原罪 PV](https://img.youtube.com/vi/FCcAH6NoU8o/mqdefault.jpg "[情報] 章魚嗶的原罪 PV")
34
[閒聊] 中山龍現在在想什麼![[閒聊] 中山龍現在在想什麼](https://i.imgur.com/DtgaSijb.jpg "[閒聊] 中山龍現在在想什麼")
33
Re: [闇龍] 跨性別總監談失敗原因：玩家不夠包容![Re: [闇龍] 跨性別總監談失敗原因：玩家不夠包容](https://i.imgur.com/7qVsN50b.jpeg "Re: [闇龍] 跨性別總監談失敗原因：玩家不夠包容")
32
Re: [閒聊] ptcgp 新卡包 超夢直接霸榜??????![Re: [閒聊] ptcgp 新卡包 超夢直接霸榜??????](https://i.imgur.com/Gqw9mnLb.jpg "Re: [閒聊] ptcgp 新卡包 超夢直接霸榜??????")
28
[閒聊] 瑪奇瑪和蕾潔誰比較騷![[閒聊] 瑪奇瑪和蕾潔誰比較騷](https://i.imgur.com/g7Ftacyb.png "[閒聊] 瑪奇瑪和蕾潔誰比較騷")
28
[閒聊] 這種床上舖睡起來會有壓迫感嗎![[閒聊] 這種床上舖睡起來會有壓迫感嗎](https://i.imgur.com/DFn0dc6b.jpg "[閒聊] 這種床上舖睡起來會有壓迫感嗎")
24
[討論] 如果柯南一開始只告訴小蘭會不會比較好？24
[PTCGP] 超夢牌組45勝活動心得![[PTCGP] 超夢牌組45勝活動心得](https://i.imgur.com/qJbhS4Qb.jpg "[PTCGP] 超夢牌組45勝活動心得")
27
[情報] 漫威爭鋒 後續角色及造型![[情報] 漫威爭鋒 後續角色及造型](https://pbs.twimg.com/media/GfFfwXLXgAAzR8e.jpg "[情報] 漫威爭鋒 後續角色及造型")
49
[妮姬] 官推：她的回憶錄影帶 III![[妮姬] 官推：她的回憶錄影帶 III](https://i.imgur.com/saXRUzob.jpeg "[妮姬] 官推：她的回憶錄影帶 III")
23
[情報] 2024年 Google 動畫/電玩 世界搜尋榜![[情報] 2024年 Google 動畫/電玩 世界搜尋榜](
https://storage.googleapis.com/gweb-yis-trends-prod/media/images/yis_og_2024.2e16d0ba.fill-1200x630.format-jpeg.jpg
"[情報] 2024年 Google 動畫/電玩 世界搜尋榜")
22
[閒聊] 小火龍 進化了![[閒聊] 小火龍 進化了](https://pbs.twimg.com/media/GfVJM-3bsAAZkIb.jpg "[閒聊] 小火龍 進化了")
22
[蔚藍] 哇幹 莉央的黑絲屁屁![[蔚藍] 哇幹 莉央的黑絲屁屁](https://i.imgur.com/tVNw7zVb.jpeg "[蔚藍] 哇幹 莉央的黑絲屁屁")
21
[閒聊] mygo 08![[閒聊] mygo 08](https://i.imgur.com/fYKatWrb.jpg "[閒聊] mygo 08")
16
[問題] 刃牙是不是辱華作品??![[問題] 刃牙是不是辱華作品??](https://i.imgur.com/j6QkNenb.jpg "[問題] 刃牙是不是辱華作品??")