Re: [問題] 為什麼AI暴走總是判斷人類有害?
我覺得這是因為人類創造出AI就是要解決問題
但如果問題大到關於人類的存續之類
就會發現讓人類會滅亡的關鍵正是人類自己
既然人類自己就是造成問題的根源
那AI就要面對是解決問題(人類)還是直接擺爛的狀況
然後如果再把地球上的萬物跟人類比較一下
就會覺得人類太可惡
--
Sent from nPTT on my iPhone 14 Pro Max
--
※ PTT留言評論
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感63
[閒聊] 有沒有人類正面幹贏AI的作品最近重溫OW的影片 看到萊茵他老爹無雙一票壁壘機兵 突然想到 基本上有Ai大戰的科幻作品,不是Ai直接把人類輾過去之後滅絕或圈養 就是人類苟活等待反攻OR開始穿越時空從根本解決問題32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行25
[閒聊] 做壞事是為了人類好的劇情?逆襲的夏亞 丟殖民地到地球讓地球無法住人 迫使人類上宇宙 這毫無疑問短時間會造成人類大量死亡 然而 一上宇宙能增進新人類的覺醒6
Re: [討論] 少子化民進黨佔50%以上的責任台灣一切問題的根源在於人類太多,只要人類減少問題就會減少。 少子化根本不是問題而是解答,台灣已經有兩千三百萬人, 難道現在這樣有比幾百萬年前沒有人的時候更好嗎? 你捫心自問人類到底有什麼必要出現在地球? ※ 引述《csie68 (小春子)》之銘言:2
Re: [問卦] 當AI出現意識人類是不是就完了米賴桑空尼幾蛙 理論上來說的確挺可怕的,因為人類目前所建立的秩序規則是處於人本思 想,是人類凌駕萬物的思想體系,如果AI萌生一種地球永續本位思想,屠殺人類這種地球危 害病毒就hen 可怕惹,就是不知道AI 會不會對人類有同理心一直站在人類這邊 大概就是這樣,樓下諸君怎麼看? --1
Re: [問卦]~(@o@)~所以說 ptt的發文到底怎麼刪乾淨肚子餓了咕嚕咕嚕叫 全身無力不能跳普通麵包我不要 清YA滷肉飯香的不得了 媽媽不在家清YA滷肉飯蝦蝦叫 這是一個很好的問題- 米賴桑空八蛙 根據阿肥腦洞大開的想法 最好的情況ai 取代人類,人類整體財富自由不必工作,由ai 產能算力平均將資源分配,人 類因為不用工作因此失去競爭關係,也不會有相對玻璃感 最壞的情況 1 ai 智能覺醒,發現人類是對球低貢獻高污染的病毒,開啟諾亞方舟清洗舊人 類,留下邱森萬的基因延續重新教育新人類,由ai 作為新人類的導師(舊人類滅亡)
- 對,你說的沒錯AI取代掉越來越多的人類,接下來地球上所需的 人類數量就會越來越少。目前對這種趨勢做得最好的就是台灣: 少子化不要再生產人類是正確的方向,未來社會對人工 的需求只會越來越少,大家既不需要工作也不用生產人類。 你會問說那這樣人類不就沒有用嗎?
70
[情報] IGN:黑悟空是公開評分最低的TGA提名遊戲65
[閒聊] 宙斯是不是真的不覺得待在T1開心過57
[閒聊] 繪師的圖被拿去做手機殼,請勿購買49
[討論] 日本古代的鐵這麼優質嗎42
[閒聊] 金搖桿2024開獎25
[閒聊] T1粉絲有9成5都是Faker粉嗎??25
[閒聊] 越到中年好像越來越能理解左近寺23
[閒聊] 七龍珠如果打入複雜情節21
[閒聊] 遊戲王 德國巨型卡牌決鬥會25
Re: [閒聊] 跟女同學做過最親密的舉動是什麼17
[妮姬]C105出展 和服新圖 紅白女主角!26
[問題] 京子跟小春誰人氣比較高12
[閒聊] 你叫我愛羅...(?)11
[妮姬] 路見不平 拔刀相助34
[MLTD] 偶大百萬的手遊畫面太讚了吧!11
[鐵道] 知道了記憶開拓者的流螢33
[Vtub] 帕魯跟卡店,哪款害holo不能玩ptcg的10
[問題] 有痛感共享這個技能看醫生是不是特別方9
[24秋] 膽大黨 08 看得好爽9
[討論] 黑悟空音樂部分好像稍微弱一點14
Re: [閒聊] 跟AZKi一起開車14
[問題] 棕色塵埃2為何穿插古代跟現代8
[塗鴉] Raora Panthera21
[閒聊] 支那人沒有一個是無辜的6
[開箱] PS5 Pro 30週年版5
[原神] 甘雨的前傾姿勢7
[閒聊] 夢工廠 壞蛋聯盟2 預告5
[問題] 類天堂W的手遊,近戰職業是要幹嘛的5
[蔚藍] 神戶電鐵合作 車頭標記是溫泉開發部8
Re: [閒聊] 角川可能為防Kakao惡意收購主動聯繫索尼