PTT推薦

Re: [閒聊] 為啥AI總是會叛亂?

看板C_Chat標題Re: [閒聊] 為啥AI總是會叛亂?作者
yin0416
(假動作高手)
時間推噓 6 推:6 噓:0 →:28

如果電腦的程式只是單純人類一行一行寫出來的,電腦的一切都是可以預測的。

在這種方式下,有人真的認為它是人工智慧嗎?

電腦會不會叛變,會不會試著統治人類,恐怕跟它怎麼想沒有關係,

它依然只是照著指令行事,我不認為它具有思考能力,或至少沒有深度思考的能力。

(思考的定義為何?在此暫不討論。)


人類想要寫出能夠深度思考的或是能像人一樣思考的電腦,其來已久,

在眾多嚐試下,類神經演算法曾經脫穎而出,因為它的方式是模仿生物大腦的形式,

(當時認為大腦的神經元連結方式是一層又一層的。)

然而受限於硬體,其成效並不佳,中間還有許多人貢獻心力改良這個演算法,

暫且略過不談。較關鍵的 GPU 的出現,類神經演算法才真正展現了它的威力。

2006 年 HINTON 成功訓練多層神經網路,為了順利登上期刊,論文上用了一個新名字

【深度學習】!

2016 年 AlphaGo 打敗了李世石,

之後 GPU 大廠 Nvidia 的股價從當時的不到 9 元漲到現在的 207 元。

(理由可能不單單只是因為深度學習,挖礦需求也可能是主因之一。)


回到類神經演算法的討論,不同於傳統電腦只是依指令行事,

深度神經演算法的是依權重來下判斷,而這些權重又是由訓練而來。

到此人類已經無法懂電腦的處理邏輯了。

就如同,假設我們已經完全知道人腦的神經元連結,

我們也無法理解為什麼我們的大腦把 620 ~ 750 nm 的電磁波解釋為紅色。

————————————

抱歉,壞習慣,上面說太多了,下面精節一點。

————————————

電腦能不能像人類一樣思考?

如果用深度學習的方式,加上訓練,電腦是有可能【表現】出像人一樣的思考能力,

連帶的,你會覺得電腦有喜、怒、哀、樂,有人類的七大罪,

這一切取決於你是如何訓練它,當它表現的越像人類,就得到更多的分數,

它就會調整權重,讓自己的表現更像是人類,

然而究境這樣子的電腦是不是具有思考能力,或只是【表現】的像有思考能力,

我們可能不得而知。(但這個問題用在人身上,也很難回答。)

如果我們訓練電腦像人類,它的確可能會【想/表現的想】統治人類。

————————————

其實所有生物的大腦都是大自然訓練而來,

只是大自然是以繁殖的成效來調整大腦神經元的權重,

這個過程我們稱為演化。




--
喜歡是一種執念,

會一直盤踞在心裡,

怎麼都無法擺脫。

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 112.78.76.209 (臺灣)
PTT 網址

rootpresent10/04 14:03不一定吧 也有很多狀況被惡人駭入

LOVEMS10/04 14:04只想說 N股價99%應該都是礦需撐起來

yin041610/04 14:08嗯,剛好股價開始明顯上漲和阿法狗打敗李世石是同一年。

yin041610/04 14:16期望有比深度學習更好的演算法出現,做出更像人類思考的

yin041610/04 14:16電腦。

tim01234510/04 14:35如果所有生物的大腦都是大自然訓練~那要教育要幹嘛?

tim01234510/04 14:36畢竟你最後還是能從大自然訓練~就不用教育了~

LICHYAM10/04 14:54樓上。所以只談演化這部分啊...

yin041610/04 14:54樓上,大自然的訓練是一代一代的挑選適合的權重,不是直

yin041610/04 14:54接在個體上調整。

yin041610/04 14:55我是說 tim012345

nahsnib10/04 14:57一代一代一代一代

TanakaJapan10/04 14:58對比大自然的訓練權重,你所謂的教育也是在這個權重

TanakaJapan10/04 14:58下誕生的產物

Luos10/04 15:07我也搞不清楚我一行一行寫的project到底在幹嘛

deolinwind10/04 17:26ai是程式碼寫的,人是DNA寫的,還是你可以用中文房間

deolinwind10/04 17:26來考慮?

yin041610/04 22:20剛看了中文房間的意思,老實說我並不同意。人腦的每一個

yin041610/04 22:20細胞功能都很簡單,其運作的機制仍是物理或化學,但整體

yin041610/04 22:20運作其來卻能夠思考。我不認為這種事只能發生在生物上,

yin041610/04 22:20如果用擁有神經元功能的電子元件組成了一個人腦的網絡,

yin041610/04 22:20該系統理論上應該要能夠思考。如果它真的能處理一些問題

yin041610/04 22:20,公平的說,它是會思考的。如果要說它只是電子元件運行

yin041610/04 22:20的結果,不能算是思考,那人腦也只是腦細胞運行的結果。

yin041610/04 22:20是運作的單元重要,還是形式重要?我認為是形式。

u5b89040210/05 13:28演化跟學習我覺得還是不同的。生物的大腦構造是演化而

u5b89040210/05 13:28來。在這演化出的大腦上,生物可以透過學習和訓練來進

u5b89040210/05 13:28一步適應環境。

u5b89040210/05 13:28同理,類神經網絡的架構是人類設計而來,在某架構之下

u5b89040210/05 13:28,其可以透過訓練而更加適應其所需面對的問題。

u5b89040210/05 13:28生物大腦構造是基於繁殖這個原則演化而出,而類神經網

u5b89040210/05 13:28絡則是人類依特定目的而設計

u5b89040210/05 13:31就是說如果設計得當,也許還是有可能設計出能像人一樣

u5b89040210/05 13:31思考,但對人忠心耿耿的AI