Re: [閒聊] AI科技發展到極致，真的會毀滅人類？
先上個影片：
https://vimeo.com/389553895
這是Artificial Intelligence這本書的作者的演講
裡面講到了許多有關於舊方法與新方法的差異
其中也有段提到過：
“目前最新的觀念認為我們以前學的AI都是錯的。
不幸的是，我們目前並沒有新的東西可以教，
所以我們會教你所有舊的觀念，但你要知道這些都是錯的。”
然後簡單來說，以前的AI是目的導向，也就是說AI本身只在乎目的，不在乎過程
因此就會產生“如果要減少污染，最好的方法就是把人類毀滅”這種解決方案
而現在的AI則更傾向於人類導向，他學習的時候會透過從人類得來的資料再學習
另外很多人對AI有個誤解是AI可以取代人類，但實際上AI是很受限制的
現行的AI都更像是在某個領域可以做到很強的程度，然而他們的學習都無法轉到其他領域比如說，AlphaGo可以打敗世界頂級圍棋選手，然而你讓他去打黑白棋或五子棋都沒用
也就是說人類最基本的“將相關經驗套用到新的領域”這個能力目前沒有AI學的會
--
全訊息類遊戲已經全部制霸了
印象中Alpha zero就把棋類遊戲橫掃了
但AlphaStar仍然無法戰勝人類啊
因為棋類的規則還太簡單
高級AI有沒有試過打麻將
你要圍棋名人去打將棋龍王也贏不了啊
麻將和德州撲克好像都贏了，但星海就跨不過去
ai有打過日麻，還蠻強的
等到ai能進行戀愛頭腦戰對決再叫我參戰，謝謝
會翻譯漫畫
你要一個專練19路圍棋的AlphaGO沒tarin過馬上去下9路或13
路圍棋，馬上烙賽給你看
死人棋也是?
還有問題是任何遊戲都有一套明確規則
現實的很多難題是根本沒有規則
事實上不會是AI毀滅人類，比較有可能的是金字塔頂端
的人類用AI瘋狂牟利，用不了AI的人類只能保持最低
水平的生活
如果是最開始目的導向的AI的話是有可能毀滅人類的──
問題是頂層的人不會讓這件事發生，底層的人毋需多慮
AI無法跨領域主要是因為它算法只能分析不受外力因
素影響的互相獨立i.i.d.數據，因此碰到不同領域數
據就掛了
人類遇到未知領域問題時是透過過去經驗得到的因果
關係解決問題，但目前CS界還不清楚如何訓練AI得出
未知的因果關係
所以我才說AI事實上還離很多人想像的AI很遠
深度學習的技術也是模仿人類的神經迴路，再神也只是
在很單一的領域用類似人類大腦，而且練老半天搞出來
的參數也永遠存在誤差。更不用說還要先弄出海量數據
來餵資料。目前的AI用來做資料科學
還不錯，但真要搞出媒體幻想的AI還不如聘用真人
所以能毀滅人類的不會是AI，而是使用AI的頂端人士
Ai真的要出現 現行的硬體架構都要汰換
所以在劃時代的硬體出現前 所謂ai都是統計學
如果真的有那種自發性毀滅人類AI出現，那已經稱的上是另
一種物種了，取人類而代之也不是什麼大事，或許更好也不
一定
印象中 這部還是其他演講 這位教授有提到 五十年內不會
有 實質意義上的強AI 即電影動畫小說裡 我們期待的那種
而超過五十年的預測 根據另一位學者的說法 沒有意義
最後那個有點問題 MuZero AlphaZero 都可以在複數領域
發揮 但不如人類萬能
而且不需要太多新資料 就能把既有的ai拿去用在新問題
甚至gpt3 只要是語言類的問題就可以生出回答
重點就在不如人類萬能這一點，現行的AI在複合領域的表現還遠遠沒達到人類的想像
為了解決汙染所以要解決人類？可是為什麼AI要解決汙染？
他們搞不好巴不得把樹砍光．
這只是一種舉例，就是告訴你如果單純是“目的”導向的話可能會得出你不想要的結果
AI沒慾望，打敗人類之後要幹嘛？駭客任務那些AI除了
主線研究人類外，其他部分在幹嘛
老高就曾經說過這個話題 人類以後最大的敵人就是ai 首先會有千百萬個人類 因為機器人失業 開始有機器人跟人類的婚姻![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/HJYbD1Yb.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
4
我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？4
個人想法 人是碳基生物的一種 透過演化變成人 AI 基因轉殖可以看作是人類想對於演化的控制 基因轉殖是身體素質的部分 而AI是智能的部分 這個演化控制 透過人擇的方式 犧牲掉的是多樣性18
這個影片是提到另一種由AI產生問題 而且是現在進行的問題 就是人類已經由自動化而被AI取代中 進到資訊時代後![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://img.youtube.com/vi/WSKi8HfcxEk/mqdefault.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
講到AI毀滅人類我想提一下異形四 雖然很多粉認為這是大糞片 但其實裡面的AI背景故事很有意思 也就是這位名叫 Call 的合成人小姐![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/PNjUuPob.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
41
首Po喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
看來又是個安麗exurb1a的好時機 說一下自己的想法: 也許人類將來能以幫AI做事活下來吧![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://img.youtube.com/vi/dLRLYPiaAoA/mqdefault.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
我想到Stellaris其中一種開局 開局設為AI統治，人類則是AI的寵物 所以遊戲裡面除了一般生產建築還有一大堆滿足人類的娛樂設施 人類的滿足度越高，AI的工作效益就越高 AI的工作就是在擴展之餘要滿足人類的所有需求
爆
[情報] 《刺客教條：暗影者》內部評價很糟糕爆
[閒聊] 中國必勝客× DNF 合作![[閒聊] 中國必勝客× DNF 合作](https://i.imgur.com/nwbxW9Pb.jpeg "[閒聊] 中國必勝客× DNF 合作")
91
[閒聊] 你應該沒看過鋼彈吧![[閒聊] 你應該沒看過鋼彈吧](https://pbs.twimg.com/media/Gco_Ce-aoAA8Wdt.jpg "[閒聊] 你應該沒看過鋼彈吧")
64
[情報] 黑魂三重製？![[情報] 黑魂三重製？](https://img.youtube.com/vi/Mmo392kpNoA/mqdefault.jpg "[情報] 黑魂三重製？")
67
[閒聊] 啊哇欸噴火龍咧？![[閒聊] 啊哇欸噴火龍咧？](https://img.youtube.com/vi/bCxVotwNbo0/mqdefault.jpg "[閒聊] 啊哇欸噴火龍咧？")
63
[索尼] PS5 Pro運行部分遊戲會出現白點、鋸齒![[索尼] PS5 Pro運行部分遊戲會出現白點、鋸齒](https://cdn0.techbang.com/system/excerpt_images/119644/original/7eefc4a7d0a07cc3236cee9c3d9aa757.jpg?1731914409 "[索尼] PS5 Pro運行部分遊戲會出現白點、鋸齒")
60
Re: [閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人54
[問題] 近年辱華下場最慘的作者是這位嗎？爆
[閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人![[閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人](https://i.imgur.com/ljNAHTwb.jpeg "[閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人")
50
[妮姬] 希望下次可以出誰的ASMR![[妮姬] 希望下次可以出誰的ASMR](https://i.imgur.com/04sFHhIb.jpg "[妮姬] 希望下次可以出誰的ASMR")
45
[間諜] 做了![[間諜] 做了](https://i.imgur.com/Ch8cRCzb.png "[間諜] 做了")
45
[討論] 快打6的DLC出這麼慢算正常嗎?40
[閒聊] 十三機兵 vs 尼爾 vs 凱薩琳FB46
[閒聊] 槍彈V3的結局比較爛還是我推比較爛？爆
Re: [閒聊] 吃素還真的對身體好嗎?![Re: [閒聊] 吃素還真的對身體好嗎?](https://i.imgur.com/p2Z0Mohb.gif "Re: [閒聊] 吃素還真的對身體好嗎?")
32
[討論] 死神最終戰逐格考察（附圖）![[討論] 死神最終戰逐格考察（附圖）](https://i.imgur.com/W2jO3AJb.jpeg "[討論] 死神最終戰逐格考察（附圖）")
爆
[情報] 真三國無雙起源 公開無雙武將：劉備![[情報] 真三國無雙起源 公開無雙武將：劉備](https://i.imgur.com/AUq3UFob.jpeg "[情報] 真三國無雙起源 公開無雙武將：劉備")
32
[妮姬] 官方美術 cos 灰姑娘![[妮姬] 官方美術 cos 灰姑娘](https://i.meee.com.tw/Jl54rsH.jpg "[妮姬] 官方美術 cos 灰姑娘")
29
[閒聊] hews 膽大黨 男人的快樂![[閒聊] hews 膽大黨 男人的快樂](https://i.imgur.com/Cqjssegb.jpeg "[閒聊] hews 膽大黨 男人的快樂")
29
[討論] 絕區零 大家開始練雅的隊友了嗎？28
Re: [閒聊] 中國必勝客× DNF 合作![Re: [閒聊] 中國必勝客× DNF 合作](https://bigsharkmom.tw/wp-content/uploads/2024/04/0T1A5375-jpg.webp "Re: [閒聊] 中國必勝客× DNF 合作")
27
Re: [問題] WiiU 當年是怎麼失敗的28
[蔚藍] 都子去哪了？![[蔚藍] 都子去哪了？](https://i.imgur.com/ZdV3zFtb.jpeg "[蔚藍] 都子去哪了？")
27
[閒聊] 因為推穿的露而感到難過派![[閒聊] 因為推穿的露而感到難過派](https://pbs.twimg.com/media/GTRAaLqbkAAQvzw.jpg "[閒聊] 因為推穿的露而感到難過派")
29
[40K] 投混的理由![[40K] 投混的理由](https://i.imgur.com/lwqruJvb.jpeg "[40K] 投混的理由")
27
[PTCG] PTCGP老噴牌組放一隻小噴的戰略價值是?![[PTCG] PTCGP老噴牌組放一隻小噴的戰略價值是?](https://i.imgur.com/asnEkgXb.png "[PTCG] PTCGP老噴牌組放一隻小噴的戰略價值是?")
66
[閒聊] 美食獵人怎麼沒有死神人氣高?26
[妮姬] 地獄梗 又虐![[妮姬] 地獄梗 又虐](https://i.meee.com.tw/MBUNlu3.jpeg "[妮姬] 地獄梗 又虐")
25
Re: [新聞] 《膽大黨》厄卡倫蛋蛋「金球」1:1商品化![Re: [新聞] 《膽大黨》厄卡倫蛋蛋「金球」1:1商品化](https://i.imgur.com/WL4CG3db.jpeg "Re: [新聞] 《膽大黨》厄卡倫蛋蛋「金球」1:1商品化")
7
[閒聊] 暴雪怎麼出啥啥倒
![Re: [閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人](https://media.zenfs.com/ko/gotv_ctitv_com_tw_678/e32234847a90a546010edbff8fe69a5d "Re: [閒聊] 強抱小嶋陽菜痴漢謊稱台灣人卻是中國人")