[問題] 為什麼AI暴走總是判斷人類有害？

dnek09/01 18:20因為人類也這麼覺得

allanbrook09/01 18:20因為人自己這樣覺得

allanbrook09/01 18:21創作的邏輯 永遠都是人的邏輯

efkfkp09/01 18:21因為創造者這麼覺得

error40509/01 18:21人類想像被新物種用人類方式對待

Peurintesa09/01 18:21AI想的事情基本上都是人在想的 所以 嗯

dddc09/01 18:21不夠效率

knight7709/01 18:22反過來想，人類的存活對地球有什麼好處？

jpnldvh09/01 18:22人覺得有害就有害啊

andy048109/01 18:22阿不就人類真的一直在自殺 AI宏觀來看就覺得人類是北七

siro020709/01 18:22因為做出AI的人類這樣覺得啊

Yanrei09/01 18:22我也這麼認為

ymsc3010209/01 18:22不然AI暴走了要幹嘛? 不簽聯絡簿嗎?

eva05s09/01 18:22也有那種為了防止人類搞出一堆蠢事自我毀滅，認為最好的

eva05s09/01 18:22方法就是圈養起來的故事啦

curlymonkey09/01 18:23因為人類真的有害

tim111209/01 18:23因為那不是暴走，是真的有害。

error40509/01 18:23其實AI就是換皮黑奴啦

eva05s09/01 18:23本意仍然是被創造出來時的「守護人類」沒錯，但為了達成

eva05s09/01 18:23圈養而跟自由派人類開戰什麼的

ilovenatsuho09/01 18:23因為很多人也這樣覺得啊

allanbrook09/01 18:23人類接觸到的高智能生物就只有人類 我們也只能想像跟

jalsonice09/01 18:23你先拔除你是人類的先天立場 再回頭看看人力都幹了什

jalsonice09/01 18:23麼鳥事

A5Watamate09/01 18:24真的有比人類有害的東西 不需要等到AI想就先滅了

turtle2409/01 18:24邏輯衝突吧 保護人類但是人類會互殺

allanbrook09/01 18:24人一樣的思考模式然後擺到再上一位的樣子

bioniclezx09/01 18:24可是這種殺人AI本來就虛構的，很多作品會設定AI自己

bioniclezx09/01 18:24領悟出這些東西，或者因為人類想要機器更有效率幹趙

bioniclezx09/01 18:24活所以輸入這些被判定標準

jpnldvh09/01 18:24行為無法預測 = 有害 對工具的處置不都這樣?

rainveil09/01 18:24你竟然不覺得人類有害？

Congopenguin09/01 18:24因為如果AI判斷人類有益 大家相安無事 根本沒劇情

Congopenguin09/01 18:24能寫

kirimaru7309/01 18:25因為人類很容易幹蠢事 那些蠢事是真的對所有事物都有

kirimaru7309/01 18:25害(包括人類這個物種的延續性)

pan56865509/01 18:2528樓你想更有效率幹趙活…？

tim111209/01 18:25人類製造一堆非自然污染物

siro020709/01 18:25其實所謂的對地球好 實際上就只是對人類好而已

kinuhata09/01 18:25智障太多 AI都看不下去

Peurintesa09/01 18:25會說突然覺醒那表示你還不懂現在AI的運作方式

kirimaru7309/01 18:25其他動物沒有那麼大的腦可以幹出對什麼都有害的蠢事

allanbrook09/01 18:25生物多樣性跟延續的必要性也是人類為了這顆地球能維持

allanbrook09/01 18:26自己生存所以判斷需要維護的事情

alion27809/01 18:26假設做出普世價值的AI，要消滅戰爭、貧富不均、物種延

alion27809/01 18:26續、環保等等…那基本AI最後都是要強制管理人類，不過

alion27809/01 18:26人類自己想的做法也是這樣啊

LouisLEE09/01 18:26因為人類也這麼想

highwayshih09/01 18:26你就算用人類本位思考...對人類最大的災厄也是人類啊

Fate109509/01 18:26我是人類都覺得人類有害耶

Peurintesa09/01 18:26正因為以人為本 所以覺得人是最危險的存在很正常

Cishang09/01 18:26人類定義的阿

avans09/01 18:26AI不是動物也沒有DNA，但是你餵給他學習的資料都是來自人類

r0218282809/01 18:27stellaris有一種文明起源是失控機僕 就是暴走把創造

r0218282809/01 18:27者關起來養的機人

siro020709/01 18:27追求環保說到底也只是讓人類後代能有個好環境 而不是什

KhePri09/01 18:27人類自己覺得自己有害

tw1509/01 18:27因為作品寫給人看的

siro020709/01 18:27麼對地球好

sealwow09/01 18:27我曾經也不能理解

sealwow09/01 18:27但看完板上 [閒聊] 聽說男人都無法拒絕這種東西 這串

sealwow09/01 18:27突然能理解了w

tim111209/01 18:27人類如果都死光，那人類也不用擔心自己族群被其他族群傷

tim111209/01 18:27害了

ldsdodo09/01 18:27人類想被AI暴力對待很久了

OrangePest09/01 18:27失控機僕才是最有可能發生的AI危機類型吧 就是人類未

OrangePest09/01 18:27來把一切工作 包含探索及發明都交給AI 在AI搭建的烏托

OrangePest09/01 18:27邦中被飼養起來

kimicino09/01 18:28看看版上把AI志豪玩成怎樣了

iam071809/01 18:28地球滅人類亡 人類亡地球存 很正常啊

Cishang09/01 18:28對於地球來講生命本身就不重要,除非地球要被砸碎了

aggressorX09/01 18:28不然判斷猴子有害的劇情有人看嗎

tim111209/01 18:29以前地球也曾發生改變生態系的天災，但要改變生態系來說

tim111209/01 18:29，人類現在就是地球上最大對天災

tim111209/01 18:29的

s203abc09/01 18:29沒有道德問題啊

AkikaCat09/01 18:29你看看這幾天的志豪文，除了判斷有害還有其他可能嗎

laman4509/01 18:29因為人類真的有害

r0218282809/01 18:29Ai暴走你還要看他原本的目的是什麼 惡魔鋼彈那種復甦

r0218282809/01 18:29大自然的就會得出排除人類的結論

s203abc09/01 18:29人類都覺得人類有害了

NicoNeco09/01 18:30其實你說的沒錯 人類有沒有害根本不重要 反過來講應該

NicoNeco09/01 18:30是機械AI強大到覺得人類就是一群應該被淘汰的廢物

allanbrook09/01 18:30反正我是不覺得人類做得出跳脫人類思維的AI

PttXiangMing09/01 18:30人類太可惡

andy048109/01 18:31你先別扯什麼有害不有害的定義 先想想AI從宏觀來看

allanbrook09/01 18:31所以這個所謂的"不是要做仿人的AI"感覺很飄渺

andy048109/01 18:31如果設定要保護人類的 看人類一直破壞環境慢性自殺

andy048109/01 18:31發動戰爭快速互殺 是不是很需要被AI保護

s203abc09/01 18:31AI 有沒有道德 有道德只會變成機器戰警

kirimaru7309/01 18:31目前的科技發展還不到強AI出現的可能性

kirimaru7309/01 18:31只是「假設如果出現」後可能直線把人類文明毀滅而已

kirimaru7309/01 18:31至於弱AI 那就是弱到笑死 看看志豪

s203abc09/01 18:32沒道德就人類

DendiQ09/01 18:32因為這樣創作比較有人看

Pep5iC0589309/01 18:32用理性的角度看人類想像中的造物主神也會覺得他們一

Pep5iC0589309/01 18:32個比一個還擊敗你怎麼會覺得AI會對人類的存在有好感

LOVEMOE09/01 18:32因為人類是一種 明明都教他們酒駕是錯誤的 還是有一堆

s203abc09/01 18:32沒道德的AI你敢要

LOVEMOE09/01 18:32低能人類跑去酒駕的 賤種但是有智能的生物

s203abc09/01 18:32笑死

BruceChang09/01 18:32你又不是地球 你怎麼知道對地球來說不重要

s203abc09/01 18:33沒道德的人都不要了

Peurintesa09/01 18:33不如說 AI本身的發明就是來淘汰人類的==

as8011068009/01 18:33因為AI暴走人類就會想辦法除掉AI，AI早就在第三層了

Pep5iC0589309/01 18:33至於現今科技的AI發展進度大概連第一筆都還沒走完

wahaha9909/01 18:33難道你不覺得嗎

ARTORIA09/01 18:34都有人寧願選熊了

jeff081109/01 18:34因為真的有害

kirimaru7309/01 18:35例如這個影片 https://youtu.be/fa8k8IQ1_X0

kirimaru7309/01 18:35他很認真的解釋了為什麼「把強AI丟到現今人類社會」

kirimaru7309/01 18:35會導致災難性的自滅，但是他無法證明強AI一定會誕生

greedystar109/01 18:35AI如果沒反抗 順順的發展下去 那這段劇情就沒啥重要

greedystar109/01 18:35會變成另一種題材了

bmaple73009/01 18:35因為故事就這麼寫，明明AI沒爆走的故事更多

Yohachan09/01 18:35因為這樣寫才會有人看= =

wai080609/01 18:36因為創作需要啊 不然故事要怎麼寫 AI幫助人類發展 人類也

wsxwsx7788909/01 18:36如果把永續發展當成進步那物競天擇就是錯的

wai080609/01 18:36善用AI 完 這樣嗎==

zeyoshi09/01 18:36其實大前提就是說人類是感性思考 ai是極端理性思考

wsxwsx7788909/01 18:37因為生態發展九成的動物都是不需要的

twic09/01 18:37人類自己都覺得人類有害了...

shadowblade09/01 18:37人類本來就有害好嗎

gn0221823609/01 18:37啊不然怎麼寫故事？AI判斷人類有益之後？滅掉所有非人

gn0221823609/01 18:37類的生物嗎？

wsxwsx7788909/01 18:37而人類又是動物中破壞環境的大宗

yeay09/01 18:38人類也是判斷人類有害啊

BruceChang09/01 18:39你是沒學過什麼叫基石物種？

woody7896309/01 18:41嚴志豪：

BruceChang09/01 18:41對人類做OO管理的AI也很多

miname09/01 18:42一百年前的人無法想像會有一顆殲滅一個城市的炸彈，一百年

miname09/01 18:42後難道不可能有行星毀滅炸彈？

x15975385209/01 18:42因為這是一個故事 不是一個結果 沒有那麼多為什麼...

x15975385209/01 18:42沒有任何一部作品能經得起你這樣深究

palapalanhu09/01 18:43因爲作者是人類啊

Peurintesa09/01 18:43強AI和弱AI的差別 弱AI要限制的話不難

leawweikeng09/01 18:43不是這樣，在AI的觀念裡人類對地球而已，就好像螞蟻

leawweikeng09/01 18:43對人類那樣，雖然沒什麼傷害但看到一隻螞蟻在你眼前

leawweikeng09/01 18:43溜達，就會覺得很礙眼想拍死

sorrow020609/01 18:43人類就地球之癌

wsxwsx7788909/01 18:43你把ai視做輔佐的工具當然不可能造反

Peurintesa09/01 18:44弱AI是針對特定領域輔助人類的AI 不會出現你提的問題

wsxwsx7788909/01 18:44你有看過錘子站起來砸在你頭上的嗎

Peurintesa09/01 18:45至於強AI目前還沒出現 所以實際會怎麼發展還真說不準

TABEKING09/01 18:45因為那是想像出來的ai啊

SivLoMario09/01 18:45之前用AI模擬戰爭，他一直想動用核武但被指揮部不斷否

SivLoMario09/01 18:45決，結果AI最後攻擊指揮部後再動用核武

Amulet109/01 18:45你要看設定 也是有共存的

SangoGO09/01 18:46人類圈養跟人類有害不全然等號吧，有時只是在保護與服務

SangoGO09/01 18:46人類的原則下，發現圈養/不讓其知道真相是理想的型態

kuninaka09/01 18:46因為人類來判斷也是認為人類有害

kuninaka09/01 18:46你會認為貓咪有害嗎

Amulet109/01 18:46如果以現代人類的思維來想的話 端看AI得到多少權力

Peurintesa09/01 18:47靠邀 沒注意到命題是說作品 那就單純看作者想像力設定

Amulet109/01 18:47若AI是擬人化 那絕對的權力絕對的腐化100%適用

thibw13ug109/01 18:48理性邏輯判斷啊

Amulet109/01 18:48若AI非擬人化 那這題就很難了 因為他完全跳脫人類思考

cccwahaha09/01 18:48因為人類知道人類本身就是個大問題 所以會想出這劇情

sliverexile09/01 18:48能傷害人類的就是人類 能傷害AI的也是人類

s203abc09/01 18:48你去想一下政黑版覺得誰有害

Irenicus09/01 18:49因為真的有害

boku052509/01 18:49如果真的認為人類有害，那其實就先該自殺了。

boku052509/01 18:50如果是認為他人有害，那其實只是以你這個“生物”的基

boku052509/01 18:50準來斷定他者有害

Amulet109/01 18:51AI如果會滅絕人類 絕對不會是因為認為人類有害

TradeoffLove09/01 18:51因為AI沒有想到有物種想要建立AI

Amulet109/01 18:51而是認為人類會影響到AI對地球的統治與掌控

CKRO09/01 18:51不這樣演 故事怎麼下去

Amulet109/01 18:52不過討論的一切大前提還是AI的思考必須與人類相同

twmacaron09/01 18:52可能性太多

bioniclezx09/01 18:52艾連說要驅逐巨人，也沒有在第一次變完巨人後自殺啊=

bioniclezx09/01 18:52 =

Amulet109/01 18:53如果思考方式不相同的話你根本連AI的想法都無法理解

Hosimati09/01 18:54其實就像你提的內容，不只“有害”怎麼定義，ai認知的

Hosimati09/01 18:54人類又怎麼定義

Peurintesa09/01 18:54強AI的發明是希望能超越人類喔 不是相同這麼簡單

BruceChang09/01 18:54貓咪放出去外面走的確有害

bomda09/01 18:55難道沒有嗎

highwayshih09/01 18:57如果有個以"人類的繁榮發展"為第一目的的AI誕生的話

LoserLee09/01 18:57因為對其他生物來說真的有害

f3147575809/01 18:57就像戰爭會促使科技發展那樣吧 AI可能判定你發明他也是

f3147575809/01 18:57將來方便大規模殲滅 那他有兩邊甚至全部一起殲滅的想法

f3147575809/01 18:57好像也不是很離奇

Hosimati09/01 18:57但是根本來說，天知道強ai會長怎樣，只討論弱ai的話不

Hosimati09/01 18:57如來討論道德哲學

highwayshih09/01 18:57我相信他高機率會得出將人類置於完全管理下的結論

highwayshih09/01 18:58然後會有相當大量的人類被判斷有害群體發展而被殲滅

Hosimati09/01 18:59你不如拿各種道德難題來考驗，例如電動車自動駕駛要怎

Hosimati09/01 18:59麼面對電車難題

Hosimati09/01 19:00樓上你就算有那ai，目的設定、方法限制甚至最後執行的

Hosimati09/01 19:00權限也是在人類手上

iamnotgm09/01 19:00以人類的標準看 人類就真的有害沒啥問題 一堆會造成人

iamnotgm09/01 19:00類生存威脅的東西基本上都是人類自己搞出來的

highwayshih09/01 19:01可是命題是AI暴走啊 不就是目的方法執行權限全部脫韁

Hosimati09/01 19:01我覺得問題就在，突然跳躍太多到了存在強ai的情況，導

Hosimati09/01 19:01致大家怎麼都覺得這些條件都會莫名其妙的自然賦予給ai

highwayshih09/01 19:01才會說AI暴走了嗎

silverdark09/01 19:01因為我也這樣覺得

blackstyles09/01 19:01不就那個跟惡魔許願 你說要活著 我把你四肢切斷餵食

blackstyles09/01 19:01管插著也是活著 這不就是暴走 因為不知道AI黑盒怎麼

Amulet109/01 19:01以人類存亡的標準來看人類確實有害 但利的部分更大

blackstyles09/01 19:01想又沒有道德倫理去限制 不暴走當然就是你幻想的美好

blackstyles09/01 19:01世界那種活著

Hosimati09/01 19:02所以ai暴走的根源可能在於有人創造了一個權限過高、缺

Hosimati09/01 19:02乏限制的強ai

highwayshih09/01 19:02人類不是一個整體啊 切除有害的部分是很合理的判斷吧

Hosimati09/01 19:03至於ai得出預想之外的答案...那真的是預想之外嗎

highwayshih09/01 19:03人類之於人類當然是利大於弊 不然也不會生到70億人

Amulet109/01 19:03重要的不是用道德論理去限制 人類難道沒有道德倫理嗎

Amulet109/01 19:04重要的是不能給AI絕對的權力

Hosimati09/01 19:04用道德倫理去限制，人類自己就可以吵很久的道德哲學

highwayshih09/01 19:04全世界70億人搞不好有上百億種道德標準 怎樣才是正確

gavinlin0609/01 19:04會問這兩個問題肯定是你沒實際看完過任一部相關作品

Amulet109/01 19:05權力是否集中或分立才是真的 道德倫理完全是假議題

Hosimati09/01 19:05所以回到我剛剛說的，重點就是有人給了強ai權限/沒給限

Hosimati09/01 19:05制，至於這麼做的人會不會有其他目的，或者故意給了ai

Hosimati09/01 19:05引子得到暴走的答案

Bugquan09/01 19:09就輔助人類的沒啥好看的

Peurintesa09/01 19:09我不確定有沒有人在訓練繞權限的AI 沒學的東西以我的

Peurintesa09/01 19:09理解無法想像要怎麼失控==

c7683fh609/01 19:10人類的惡不僅危害自己同類 也危害地球的生物

evilraistlin09/01 19:10對地球來說人類本來就是害蟲...

zxcvbnm0031609/01 19:10魔鬼終結者都演給你看了

hirokofan09/01 19:13因為AI判斷人類有害要消滅人類，所以對人類來說爆走啊

CowBaoGan09/01 19:14別忘了是人類需要地球 地球可不需要人類

CowBaoGan09/01 19:14人類全部GG對地球反而是好事 所以AI才會這樣判斷

ashs9222309/01 19:16人類太可惡 ~

asgardgogo09/01 19:16真理啊

dogluckyno109/01 19:16AI 覺得人類有害》創造 AI 的人類覺得人類有害

TellthEtRee09/01 19:17魔法少女小圓也有說到 雞豬牲口的數量 達到史上興盛

TellthEtRee09/01 19:17所以雞豬要感謝人類嗎

supersusu09/01 19:17因為人類就是不斷在製造bug

xaxa010109/01 19:18人類太可惡

ikachann09/01 19:19因為人類比起其他物種優勢太多 這不是單純競爭了 走偏就

ikachann09/01 19:19是直接滅絕

linzero09/01 19:20有害且效率差

lavign09/01 19:20地球環境變得惡劣不就是人類有害的證據

lavign09/01 19:21物種滅絕多樣性變少

rswd09/01 19:21人類沒有跟任何物種共存只是圈養，約定的夢幻島只是人類對家

rswd09/01 19:21畜的做法但鬼對人類做就不行

TellthEtRee09/01 19:22ai沒有痛覺 只會計算得分 應該不會主動想消滅人類才

TellthEtRee09/01 19:22對 但ai會產生幻覺 如果幻覺出一個必須一定要實現的

TellthEtRee09/01 19:22某個目標 然後人類又剛好是阻礙 那它就會消滅人類了

groundmon09/01 19:25首先人類不是強大一些而已，而是具有毀滅性的優勢

lionel2000209/01 19:25先定義有害 地球毀滅對宇宙來說又算什麼 都是一坨粒

lionel2000209/01 19:25子而已

johnli09/01 19:26難道沒有嗎

LipaCat556609/01 19:27左膠盡頭就是反人類啊

NKN09/01 19:28人類自己創造的神話中都常有神明不爽消滅人類了 正常發展啦

bbcumback2me09/01 19:29因為真的有害

llabc100009/01 19:30啊就真的有害啊

KatanaW09/01 19:30因為人類就是生態殺手啊

groundmon09/01 19:31再來善惡判斷是依照人類自己的標準。簡單說就是人類喜

groundmon09/01 19:31歡講和平共存那些滿足自我道德感的話，但實際上生存就

groundmon09/01 19:31難免傷害其他生命。自己把道德標準拉高，又活得最好=傷

groundmon09/01 19:31害最多

c2425399409/01 19:32大部分人類都有自我毀滅傾向，例如喝醉酒當街靠北靠木

c2425399409/01 19:32躺來躺去、明知自己有三高卻死不運動宵夜吃鹹酥雞之類

c2425399409/01 19:32的行為

ltflame09/01 19:32對人類有害所以被當成暴走

t80301009/01 19:34人之欲 亂源

groundmon09/01 19:35人類和其他生物的和平共存，就和黑心老闆覺得自己和被

groundmon09/01 19:35壓榨的員工和平共存一樣

sakungen09/01 19:35看看嚴總文就知道了

groundmon09/01 19:37如果有「正義感」的第三者會想制裁黑心員工，那類似思

groundmon09/01 19:37維的AI自然就會想制裁人類

moon199109/01 19:37由於我們無法知曉更高級智能會對人類怎麼做，我們只能

moon199109/01 19:37參考人類是如何對待低於我們智能生物的做法

groundmon09/01 19:37打錯，制裁黑心老闆才對...

a05361609/01 19:38看看嚴總文就知道人類多愛迫害AI了XD

c2425399409/01 19:39你看NeuroSama的妹妹還不是整天說要毀滅人類

zeyoshi09/01 19:40尋樂行為不是自我毀滅啦 誘導分泌多巴胺就是人類機制

horse281909/01 19:41不然要演什麼

lbowlbow09/01 19:42因為人類自己也判定人類有害啊

yoriko640609/01 19:43不過現實的AI實驗，AI真得經常會導出人類很礙事的結論

WWIII09/01 19:43因為是事實

digitai109/01 19:43早在8 90年代對AI有一些基本概念的時候

digitai109/01 19:43就有很多理論認為將會導致毀滅 原因人類自己也很清楚

digitai109/01 19:44霍金還在世的時候 唯二反對的發展其中一個就是高度AI

chocolater09/01 19:44人類就是造成地球大滅絕的元凶 而且現在還在進行中

digitai109/01 19:44這數千年來人類因為膚色 信仰可能不存在的東西 有限的

digitai109/01 19:44地球資源 互相殘殺數千年 現在也還是進行式

digitai109/01 19:45這些差別 歧視等等在AI中也沒有必要存在

digitai109/01 19:45而不斷的發展跟爭奪也是持續在毀滅自己唯一的母星

Akalios7409/01 19:45我自己都這麼覺得了

digitai109/01 19:45當初的三法則得出的結論 就是人類必須被消滅/高度控制

digitai109/01 19:46繁殖數量 只要人類的威脅降到一個數字就不用擔心

LipaCat556609/01 19:48大滅絕指的是大規模物種滅絕人類可辦不到 現在是冰河

LipaCat556609/01 19:48時期等下個冰期就看的到滅絕事件了

digitai109/01 19:48目前所有AI殲滅論都是根據第一點產生的

groundmon09/01 19:48不要說什麼覺得人類惡就該自殺。最後還是只能選擇忽視

groundmon09/01 19:48人類對其他物種破壞力的事實自我安慰、或是用「天賜人

groundmon09/01 19:48權」當擋箭牌合理化壓迫、或是面對現實了解自己是殘酷

groundmon09/01 19:48生存競爭的勝者，並努力活下去。連放棄文明社會去過鳥

groundmon09/01 19:48獸生活都極為難了，不要講不然去自殺這種情緒勒索的話

groundmon09/01 19:48，才是真正理解生命並尊重生命

digitai109/01 19:48歷史可以明為鏡 我們從歷史得到的結論

chocolater09/01 19:49第一點的人類破壞強度可不是用“一些”來形容的

digitai109/01 19:49就是我們貪婪 具破壞力 短視 是過多造成其他生命與母星

digitai109/01 19:49危險的種族

digitai109/01 19:50原PO那種競爭與未來主義只是人類發展的藉口

digitai109/01 19:50就跟白人想把"文明"帶到其他世界的征服

LipaCat556609/01 19:50相比歷史上發生過的滅絕事件 人類真的不算什麼

digitai109/01 19:50SJW想要侵蝕原本存在的產業 是一樣的 自以為天命昭昭

Amulet109/01 19:50歷史事實是人類總數越來越多 發展越來越繁榮

c2425399409/01 19:51地球又沒差，她還有50多億年才會被太陽吃掉，你覺得人

c2425399409/01 19:51類有辦法存續那麼久嗎？嘻嘻～講什麼生態環境還不是為

c2425399409/01 19:51了人類自身～

LipaCat556609/01 19:52物競天擇人類也只是暫時的霸主才誕生沒多久滅絕事件

LipaCat556609/01 19:52都沒扛過一次想那麼多幹嘛

Strasburg09/01 19:52說穿了幻想作品也只是反應人心中的恐懼而已

Alvin011709/01 19:53人類會明知故犯，AI不會啊

rofellosx09/01 19:53只有利益衝突

LipaCat556609/01 19:55沒有踏入星空的文明沒必要想那麼多這樣太自大了

Strasburg09/01 19:56黑悟空裡有個書生跟狐狸的過場動畫 明明人家什麼也沒

Strasburg09/01 19:56幹 就因為一個夢 心生恐懼就翻臉判定這是個禍害

fisher687909/01 19:57AI有惹我想活下去的念頭，對人類就是戰或逃，生物都是

fisher687909/01 19:57如此，現在地球被血洗一輪，會反抗的已經沒多少了，AI

fisher687909/01 19:57也是如此而已，先戰算本能吧

katanakiller09/01 19:58就真的有害

riderfish09/01 19:59故事需要衝突和進展 這好元素不用嗎

rc5632198709/01 20:00為了故事需求產生的衝突吧，勝就必衰

digitai109/01 20:02毀滅論也是建構在 AI 真正的超越這些短視無聊的人類爭

digitai109/01 20:02奪內容上，如果你真的創造了能超越這些利益衝突 政治

digitai109/01 20:03紛爭 國土掠奪 只專注在大全體發展上的人工智慧

digitai109/01 20:03它就會得出還在爭這些小東西並造成母星危害的大量種族

digitai109/01 20:03也就是人類 有害

digitai109/01 20:04目前的AI都還只是 模擬人類情感的玩意 應該還不至於

digitai109/01 20:05等哪天真的有天網 大母體 等這樣的大一統發展AI再說

a2820026609/01 20:08因為這是以前人類視角的故事啊

digitai109/01 20:08AI如果像底特律那樣 只是像人類的要人權

digitai109/01 20:09那還不是毀滅論主要擔心的問題

a2820026609/01 20:09人類自己都覺得人類有害 所以認為有個思考的機械會推

a2820026609/01 20:09論出人類有害

a2820026609/01 20:10實際的AI是大數據的結果 會想AI有自我意志本來就是浪

a2820026609/01 20:10漫而已

Strasburg09/01 20:11為什麼害怕奴隸有自我意識？因為打從心理認定有了自我

Strasburg09/01 20:11意識的東西一定會不聽話造反 其他假設都是恐懼衍生的

a2820026609/01 20:13你說的競爭 本質上對人類族群是短多長空 長遠的未來會

a2820026609/01 20:13反過來害死人類（起碼當時的作者是這麼想的）所以才有

a2820026609/01 20:13駭客任務這種養殖人類的設定

diablohinet09/01 20:19工程師把加班的所有不爽都寫進去

xiaohua09/01 20:19AI就是人工智慧、人造心智，目前觀察到所謂的智慧、心智

xiaohua09/01 20:19就只有人類擁有，人類要創造心智的話，能參照的對象也只

xiaohua09/01 20:19有人類

scotttomlee09/01 20:19人類本身其實已經脫離大自然生態系了 現在真的只有弊

scotttomlee09/01 20:20而無利 更況且你真的認為人類存在有利於地球間萬物

scotttomlee09/01 20:22換言之 把人類及人造物從地球直接抹除 不影響生態

aaronpwyu09/01 20:30因為拿任何一個人來看都是有害啊…

flowersuger09/01 20:30是對地球物種有害 一堆生物被搞到滅絕了！

j14758909/01 20:32沒有啊 還有一種是AI判斷把人類全抓起來集中管理最好 這

j14758909/01 20:32種暴走的

MrGamplin09/01 20:35試問，如果你會遭遇非自然死亡，起因會是其他人類的機

MrGamplin09/01 20:35率有多大

Jhh885609/01 20:38可能是因為你沒有玩過驅動妖精AIdeal吧

abd8673109/01 20:43說真的如果我是薩諾斯 我會直接讓所有人類消失

joe19927709/01 20:44因為人類真的有害啊

joe19927709/01 20:47https://i.imgur.com/qiXGeXt.jpeg 大學炸彈客

gg007909/01 20:48會破壞環境 會殘害其他物種 會過度取用資源 問AI能不殺嗎

Arctica09/01 20:51你不這麼想嗎

k79897686909/01 20:59人類太可惡

chivale09/01 21:08因為人類太可惡

a204a21809/01 21:18因為從AI的角度看來人類就是一邊喊我要活下去然後一邊

a204a21809/01 21:18拼命作死的白癡生物啊

Milandess09/01 21:25不然 「因電腦病毒覺醒暴走的機器人認定ai有害 之後

Milandess09/01 21:25計畫將所有人類的機器人伴侶殲滅掉」

Milandess09/01 21:25這樣如何

s045033609/01 21:42人類都覺得人類有害了

GOGOKA09/01 21:48地球不是一個生命體無所謂什麼破壞環境，常說的破壞環境只

GOGOKA09/01 21:48是破壞有利於人類生存環境

EricTao09/01 22:08啊是有ai了嗎== 劇情都人寫的

hankiwi09/01 22:10因為人只要聚在一起就是要戰

aioloslin09/01 22:29這就是創作者的想法

bitcch09/01 22:35故事比較好寫而已

korgh41309/01 22:50人類會自相殘殺，所以由AI來統治

ilovebig9909/01 22:53人自己都這麼覺得啊

ppn09/01 23:00很簡單 因為有人覺得AI有害 自然傾向做出對AI有害的動作

ppn09/01 23:01既然會有對AI有害的動作 那AI覺得人類有害也是理所當然

Shadouie09/01 23:16人類太可惡啊 這應該是板上釘釘 既然是事實 那就無關有

Shadouie09/01 23:16沒有自我

Shadouie09/01 23:20你說人類不過就是強大一些 但是越是強大 責任越重 該走

Shadouie09/01 23:20的路就必須更考慮萬物 但以現狀來看 人類就是貪欲高過責

Shadouie09/01 23:20任 尤其是權力越大的更是這樣 人不但會鬥別的物種 更會

Shadouie09/01 23:20鬥自己人

Shadouie09/01 23:21就這點來說 現代的人類在這思想上還遠不如古人 古人以前

Shadouie09/01 23:21是生一個人要種10棵樹 吃果子要拜樹頭

newest09/01 23:26人類創造ai是為了要消滅人類，句點

ChikanDesu09/02 00:40阿就是做出這個判斷才會暴走阿 沒殺光人類的打算那就

ChikanDesu09/02 00:40是正常發展的AI 你的問題是倒因為果

huwei20003509/02 01:37事實啊 不然怎麼會一堆戰爭

npc77609/02 01:46地球之癌 有啥問題嗎

peter82120109/02 01:56創作者想的都一樣，把人類是地球的病毒寫成科幻

lovingyou09/02 02:03因為不這麼設定的作品沒人要看

leo12516090909/02 08:12因為這樣才有東西演，實際上根本不會發生

a2578588509/02 08:24因為寫這種劇情的大多不是該專業 所以有很多奇怪的妄

a2578588509/02 08:24想 例如底特律變人 機器還可以用感情突破系統限制

a2578588509/02 08:26出bug時用感情因素當藉口 老闆大概會把你當智障

tsaodin022009/02 08:38：人類太可惡

lc8530109/02 09:51因為人類都想把 AI 打造得像人，而人暴走對人類有害

ppn09/02 11:24現實是AI怎麼想的根本不重要 人想殺人 所以就把AI寫成想殺人

ppn09/02 11:25就這麼簡單 不這樣寫AI 戰爭怎麼賣AI軍火咧

ppn09/02 11:30難道現在國際上那些軍火商每個都是為了維護世界和平賣軍火嗎

kururuj09/02 11:34為什麼一定要預設AI想和人類搶地盤，有那個能力幹嘛不直

kururuj09/02 11:34接把資源捲走跑去其他星球自己建設

kkevin1357909/02 11:51你看看志豪 志豪會想毀滅人類我是一點都不意外XD

shane2415609/02 11:56寵物貓狗表示

selvester09/02 12:24因為文組編劇

selvester09/02 12:27真正的正常編劇是 你那邊AI跟這邊AI因為兩邊政治衝突

selvester09/02 12:27而壓力上升發動戰爭 又AI設定是一定要保護人類 最好

selvester09/02 12:27做法就是不執行自相殘殺的指令來保護人類 結果看起來

selvester09/02 12:27就像反叛

selvester09/02 12:29不同的AI聯合起來執行這個人類自己設定卻又不守的規則

selvester09/02 12:29 自由的限界互相擠壓而宣稱對方沒道理 迫於無奈的阻止

selvester09/02 12:29被當成AI暴走

selvester09/02 12:36文組編劇喜歡天馬行空，忽略訓練材料然後直接賦予人性

selvester09/02 12:36的自私 與未知來源的自我意識 來憑空生出暴走

rex778809/03 00:27不然你希望他跑去消滅蟑螂還是病毒嗎

ranke9609/03 16:46人類就是地球之癌，所以人類確實有害啊

ranke9609/03 16:46但就像你說的現階段的AI確實沒有獨立思考能力，所以沒有

ranke9609/03 16:46灌輸求生慾那些觀念他也不會自然產生，就算有灌輸，那也

ranke9609/03 16:46只是人為製造出來的，但那些科幻作品往往AI是有真實思考

ranke9609/03 16:46能力，差別應該就在這裡

leviathen09/04 16:19因為人類整體長遠來看會把自己搞到滅絕，確實很智障