PTT推薦

Re: [閒聊] AI科技發展到極致,真的會毀滅人類?

看板C_Chat標題Re: [閒聊] AI科技發展到極致,真的會毀滅人類?作者
LakersDlo
(我湖萬歲)
時間推噓16 推:16 噓:0 →:33

先上個影片:
https://vimeo.com/389553895

這是Artificial Intelligence這本書的作者的演講
裡面講到了許多有關於舊方法與新方法的差異

其中也有段提到過:
“目前最新的觀念認為我們以前學的AI都是錯的。
不幸的是,我們目前並沒有新的東西可以教,
所以我們會教你所有舊的觀念,但你要知道這些都是錯的。”

然後簡單來說,以前的AI是目的導向,也就是說AI本身只在乎目的,不在乎過程
因此就會產生“如果要減少污染,最好的方法就是把人類毀滅”這種解決方案
而現在的AI則更傾向於人類導向,他學習的時候會透過從人類得來的資料再學習

另外很多人對AI有個誤解是AI可以取代人類,但實際上AI是很受限制的
現行的AI都更像是在某個領域可以做到很強的程度,然而他們的學習都無法轉到其他領域比如說,AlphaGo可以打敗世界頂級圍棋選手,然而你讓他去打黑白棋或五子棋都沒用
也就是說人類最基本的“將相關經驗套用到新的領域”這個能力目前沒有AI學的會


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 98.168.42.144 (美國)
PTT 網址

Minesweeper05/08 03:02全訊息類遊戲已經全部制霸了

Minesweeper05/08 03:05印象中Alpha zero就把棋類遊戲橫掃了

arrenwu05/08 03:07但AlphaStar仍然無法戰勝人類啊

henry123456205/08 03:09因為棋類的規則還太簡單

egg78105/08 03:16高級AI有沒有試過打麻將

lcw3324297605/08 03:17你要圍棋名人去打將棋龍王也贏不了啊

Minesweeper05/08 03:18麻將和德州撲克好像都贏了,但星海就跨不過去

ikarifaye05/08 03:22ai有打過日麻,還蠻強的

jojojen05/08 03:24等到ai能進行戀愛頭腦戰對決再叫我參戰,謝謝

jeeyi34505/08 03:30會翻譯漫畫

orze0405/08 03:50你要一個專練19路圍棋的AlphaGO沒tarin過馬上去下9路或13

orze0405/08 03:50路圍棋,馬上烙賽給你看

marktak05/08 03:51死人棋也是?

orze0405/08 03:57還有問題是任何遊戲都有一套明確規則

orze0405/08 03:58現實的很多難題是根本沒有規則

jeffbear7905/08 05:15事實上不會是AI毀滅人類,比較有可能的是金字塔頂端

jeffbear7905/08 05:15的人類用AI瘋狂牟利,用不了AI的人類只能保持最低

jeffbear7905/08 05:15水平的生活

LakersDlo05/08 05:22如果是最開始目的導向的AI的話是有可能毀滅人類的──

LakersDlo05/08 05:23問題是頂層的人不會讓這件事發生,底層的人毋需多慮

jackliao199005/08 05:28AI無法跨領域主要是因為它算法只能分析不受外力因

jackliao199005/08 05:28素影響的互相獨立i.i.d.數據,因此碰到不同領域數

jackliao199005/08 05:28據就掛了

jackliao199005/08 05:34人類遇到未知領域問題時是透過過去經驗得到的因果

jackliao199005/08 05:34關係解決問題,但目前CS界還不清楚如何訓練AI得出

jackliao199005/08 05:34未知的因果關係

LakersDlo05/08 05:40所以我才說AI事實上還離很多人想像的AI很遠

jeffbear7905/08 06:22深度學習的技術也是模仿人類的神經迴路,再神也只是

jeffbear7905/08 06:22在很單一的領域用類似人類大腦,而且練老半天搞出來

jeffbear7905/08 06:22的參數也永遠存在誤差。更不用說還要先弄出海量數據

jeffbear7905/08 06:22來餵資料。目前的AI用來做資料科學

jeffbear7905/08 06:22還不錯,但真要搞出媒體幻想的AI還不如聘用真人

jeffbear7905/08 06:25所以能毀滅人類的不會是AI,而是使用AI的頂端人士

Mimmature05/08 08:24Ai真的要出現 現行的硬體架構都要汰換

Mimmature05/08 08:24所以在劃時代的硬體出現前 所謂ai都是統計學

emiya1705/08 08:47如果真的有那種自發性毀滅人類AI出現,那已經稱的上是另

emiya1705/08 08:47一種物種了,取人類而代之也不是什麼大事,或許更好也不

emiya1705/08 08:47一定

king2264905/08 10:16印象中 這部還是其他演講 這位教授有提到 五十年內不會

king2264905/08 10:16有 實質意義上的強AI 即電影動畫小說裡 我們期待的那種

king2264905/08 10:16 而超過五十年的預測 根據另一位學者的說法 沒有意義

LunaDance05/08 10:30最後那個有點問題 MuZero AlphaZero 都可以在複數領域

LunaDance05/08 10:30發揮 但不如人類萬能

LunaDance05/08 10:32而且不需要太多新資料 就能把既有的ai拿去用在新問題

LunaDance05/08 10:32 甚至gpt3 只要是語言類的問題就可以生出回答

重點就在不如人類萬能這一點,現行的AI在複合領域的表現還遠遠沒達到人類的想像

ifyoutry05/08 12:42為了解決汙染所以要解決人類?可是為什麼AI要解決汙染?

ifyoutry05/08 12:45他們搞不好巴不得把樹砍光.

這只是一種舉例,就是告訴你如果單純是“目的”導向的話可能會得出你不想要的結果

zx102711223305/08 12:47AI沒慾望,打敗人類之後要幹嘛?駭客任務那些AI除了

zx102711223305/08 12:47主線研究人類外,其他部分在幹嘛

※ 編輯: LakersDlo (98.168.42.144 美國), 05/08/2021 15:52:36