Re: [閒聊] AI科技發展到極致，真的會毀滅人類？
先上個影片：
https://vimeo.com/389553895
這是Artificial Intelligence這本書的作者的演講
裡面講到了許多有關於舊方法與新方法的差異
其中也有段提到過：
“目前最新的觀念認為我們以前學的AI都是錯的。
不幸的是，我們目前並沒有新的東西可以教，
所以我們會教你所有舊的觀念，但你要知道這些都是錯的。”
然後簡單來說，以前的AI是目的導向，也就是說AI本身只在乎目的，不在乎過程
因此就會產生“如果要減少污染，最好的方法就是把人類毀滅”這種解決方案
而現在的AI則更傾向於人類導向，他學習的時候會透過從人類得來的資料再學習
另外很多人對AI有個誤解是AI可以取代人類，但實際上AI是很受限制的
現行的AI都更像是在某個領域可以做到很強的程度，然而他們的學習都無法轉到其他領域比如說，AlphaGo可以打敗世界頂級圍棋選手，然而你讓他去打黑白棋或五子棋都沒用
也就是說人類最基本的“將相關經驗套用到新的領域”這個能力目前沒有AI學的會
--
全訊息類遊戲已經全部制霸了
印象中Alpha zero就把棋類遊戲橫掃了
但AlphaStar仍然無法戰勝人類啊
因為棋類的規則還太簡單
高級AI有沒有試過打麻將
你要圍棋名人去打將棋龍王也贏不了啊
麻將和德州撲克好像都贏了，但星海就跨不過去
ai有打過日麻，還蠻強的
等到ai能進行戀愛頭腦戰對決再叫我參戰，謝謝
會翻譯漫畫
你要一個專練19路圍棋的AlphaGO沒tarin過馬上去下9路或13
路圍棋，馬上烙賽給你看
死人棋也是?
還有問題是任何遊戲都有一套明確規則
現實的很多難題是根本沒有規則
事實上不會是AI毀滅人類，比較有可能的是金字塔頂端
的人類用AI瘋狂牟利，用不了AI的人類只能保持最低
水平的生活
如果是最開始目的導向的AI的話是有可能毀滅人類的──
問題是頂層的人不會讓這件事發生，底層的人毋需多慮
AI無法跨領域主要是因為它算法只能分析不受外力因
素影響的互相獨立i.i.d.數據，因此碰到不同領域數
據就掛了
人類遇到未知領域問題時是透過過去經驗得到的因果
關係解決問題，但目前CS界還不清楚如何訓練AI得出
未知的因果關係
所以我才說AI事實上還離很多人想像的AI很遠
深度學習的技術也是模仿人類的神經迴路，再神也只是
在很單一的領域用類似人類大腦，而且練老半天搞出來
的參數也永遠存在誤差。更不用說還要先弄出海量數據
來餵資料。目前的AI用來做資料科學
還不錯，但真要搞出媒體幻想的AI還不如聘用真人
所以能毀滅人類的不會是AI，而是使用AI的頂端人士
Ai真的要出現 現行的硬體架構都要汰換
所以在劃時代的硬體出現前 所謂ai都是統計學
如果真的有那種自發性毀滅人類AI出現，那已經稱的上是另
一種物種了，取人類而代之也不是什麼大事，或許更好也不
一定
印象中 這部還是其他演講 這位教授有提到 五十年內不會
有 實質意義上的強AI 即電影動畫小說裡 我們期待的那種
而超過五十年的預測 根據另一位學者的說法 沒有意義
最後那個有點問題 MuZero AlphaZero 都可以在複數領域
發揮 但不如人類萬能
而且不需要太多新資料 就能把既有的ai拿去用在新問題
甚至gpt3 只要是語言類的問題就可以生出回答
重點就在不如人類萬能這一點，現行的AI在複合領域的表現還遠遠沒達到人類的想像
為了解決汙染所以要解決人類？可是為什麼AI要解決汙染？
他們搞不好巴不得把樹砍光．
這只是一種舉例，就是告訴你如果單純是“目的”導向的話可能會得出你不想要的結果
AI沒慾望，打敗人類之後要幹嘛？駭客任務那些AI除了
主線研究人類外，其他部分在幹嘛
老高就曾經說過這個話題 人類以後最大的敵人就是ai 首先會有千百萬個人類 因為機器人失業 開始有機器人跟人類的婚姻![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/HJYbD1Yb.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
4
我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？4
個人想法 人是碳基生物的一種 透過演化變成人 AI 基因轉殖可以看作是人類想對於演化的控制 基因轉殖是身體素質的部分 而AI是智能的部分 這個演化控制 透過人擇的方式 犧牲掉的是多樣性18
這個影片是提到另一種由AI產生問題 而且是現在進行的問題 就是人類已經由自動化而被AI取代中 進到資訊時代後![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://img.youtube.com/vi/WSKi8HfcxEk/mqdefault.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
講到AI毀滅人類我想提一下異形四 雖然很多粉認為這是大糞片 但其實裡面的AI背景故事很有意思 也就是這位名叫 Call 的合成人小姐![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/PNjUuPob.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
41
首Po喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
看來又是個安麗exurb1a的好時機 說一下自己的想法: 也許人類將來能以幫AI做事活下來吧![Re: [閒聊] AI科技發展到極致，真的會毀滅人類？](https://img.youtube.com/vi/dLRLYPiaAoA/mqdefault.jpg "Re: [閒聊] AI科技發展到極致，真的會毀滅人類？")
我想到Stellaris其中一種開局 開局設為AI統治，人類則是AI的寵物 所以遊戲裡面除了一般生產建築還有一大堆滿足人類的娛樂設施 人類的滿足度越高，AI的工作效益就越高 AI的工作就是在擴展之餘要滿足人類的所有需求
爆
[閒聊] 簡體字是不是很破壞美感的文字![[閒聊] 簡體字是不是很破壞美感的文字](https://i.imgur.com/UBpjMy4b.jpeg "[閒聊] 簡體字是不是很破壞美感的文字")
爆
[Vtub] 三毛貓 咪醬 露醬 推特![[Vtub] 三毛貓 咪醬 露醬 推特](https://i.imgur.com/asBMTFdb.jpeg "[Vtub] 三毛貓 咪醬 露醬 推特")
爆
[閒聊] DARLING in the FRANXX 當年有多紅？![[閒聊] DARLING in the FRANXX 當年有多紅？](https://avatars.plurk.com/6487277-medium13863597.gif "[閒聊] DARLING in the FRANXX 當年有多紅？")
90
[閒聊] 日本夾娃娃機店員真的會主動幫調好位置嗎![[閒聊] 日本夾娃娃機店員真的會主動幫調好位置嗎](https://i.imgur.com/6gaJTcKb.jpg "[閒聊] 日本夾娃娃機店員真的會主動幫調好位置嗎")
91
[討論] 咪醬診斷出離人症與解離性障害![[討論] 咪醬診斷出離人症與解離性障害](https://i.imgur.com/IiJY6oSb.jpeg "[討論] 咪醬診斷出離人症與解離性障害")
74
［震怒］MYGO 8 那個爛祥
65
[閒聊] 壓克力立牌到底有什麼用![[閒聊] 壓克力立牌到底有什麼用](https://i.imgur.com/oaoy9eib.jpeg "[閒聊] 壓克力立牌到底有什麼用")
65
[蔚藍] 夜櫻琦羅羅 個人劇情雷![[蔚藍] 夜櫻琦羅羅 個人劇情雷](https://pbs.twimg.com/media/GM99IUsagAAjky8.jpg "[蔚藍] 夜櫻琦羅羅 個人劇情雷")
60
[閒聊] 高中時不小心搭上陌生人的車![[閒聊] 高中時不小心搭上陌生人的車](https://i.imgur.com/xVwxU1zb.jpeg "[閒聊] 高中時不小心搭上陌生人的車")
57
Re: [檔案] キララ 也是我的老婆![Re: [檔案] キララ 也是我的老婆](https://i.imgur.com/9ZZwqiCb.jpg "Re: [檔案] キララ 也是我的老婆")
58
[閒聊] 爆走兄弟 四驅車造型鑄鐵香爐 33,000円![[閒聊] 爆走兄弟 四驅車造型鑄鐵香爐 33,000円](https://pbs.twimg.com/media/GNBD7Ijb0AAcw_1.jpg "[閒聊] 爆走兄弟 四驅車造型鑄鐵香爐 33,000円")
55
[閒聊] 你會願意為了聽動畫歌而花多少買喇叭？53
[閒聊] 高卷杏是對宅男友善的辣妹嗎？![[閒聊] 高卷杏是對宅男友善的辣妹嗎？](https://i.imgur.com/T9UHrq7b.jpeg "[閒聊] 高卷杏是對宅男友善的辣妹嗎？")
51
[閒聊]在龍珠角色中貝吉塔特別受女生喜歡?![[閒聊]在龍珠角色中貝吉塔特別受女生喜歡?](https://i.imgur.com/X68Sn7Vb.jpg "[閒聊]在龍珠角色中貝吉塔特別受女生喜歡?")
45
[閒聊] 司馬懿的智力值，應該跟亮子一樣嗎？![[閒聊] 司馬懿的智力值，應該跟亮子一樣嗎？](https://i.imgur.com/D2KLqZib.jpg "[閒聊] 司馬懿的智力值，應該跟亮子一樣嗎？")
43
[Vtub] 夸兔推石頭對決 (上)![[Vtub] 夸兔推石頭對決 (上)](https://img.youtube.com/vi/gDheU2cwCpQ/mqdefault.jpg "[Vtub] 夸兔推石頭對決 (上)")
43
[蔚藍] キラキラ部(雷![[蔚藍] キラキラ部(雷](https://i.imgur.com/tqlvaU6b.png "[蔚藍] キラキラ部(雷")
37
[閒聊] 為啥買吉伊卡哇周邊的人都是男森？![[閒聊] 為啥買吉伊卡哇周邊的人都是男森？](https://img.youtube.com/vi/DJ9ryoX5uuE/mqdefault.jpg "[閒聊] 為啥買吉伊卡哇周邊的人都是男森？")
35
[討論] 瑪蓮妮亞沒有被玩家唾棄是因為長的正嗎![[討論] 瑪蓮妮亞沒有被玩家唾棄是因為長的正嗎](https://i.imgur.com/L7eWBbYb.jpeg "[討論] 瑪蓮妮亞沒有被玩家唾棄是因為長的正嗎")
36
[討論] 靠爸比較好看還是不靠爸比較好看35
[閒聊] 女高中生的虛度日常 找到缺少的那塊神作![[閒聊] 女高中生的虛度日常 找到缺少的那塊神作](https://i.imgur.com/TzhmCCjb.jpg "[閒聊] 女高中生的虛度日常 找到缺少的那塊神作")
32
[閒聊] 精障算一種萌點嗎![[閒聊] 精障算一種萌點嗎](https://i.imgur.com/jlJcXWIb.jpg "[閒聊] 精障算一種萌點嗎")
55
[閒聊] 連體襪到底實不實用RRRR?![[閒聊] 連體襪到底實不實用RRRR?](https://i.imgur.com/Wt0Hyfwb.png "[閒聊] 連體襪到底實不實用RRRR?")
28
[閒聊] 漫威票房不如預期 迪士尼CEO宣布將減產![[閒聊] 漫威票房不如預期 迪士尼CEO宣布將減產](https://i.imgur.com/GEOhIGVb.jpeg "[閒聊] 漫威票房不如預期 迪士尼CEO宣布將減產")
32
[塵白] 明天復刻魔術師![[塵白] 明天復刻魔術師](https://i.imgur.com/MLf757Nb.jpeg "[塵白] 明天復刻魔術師")
32
[Vtub] Watame等等要會限觀看少林足球![[Vtub] Watame等等要會限觀看少林足球](https://i.ytimg.com/vi/SU_Pk6x_jzA/maxresdefault_live.jpg "[Vtub] Watame等等要會限觀看少林足球")
37
[閒聊] 都死一堆人了，日本警察還只能對空鳴槍？![[閒聊] 都死一堆人了，日本警察還只能對空鳴槍？](https://i.imgur.com/tGtQbsVb.png "[閒聊] 都死一堆人了，日本警察還只能對空鳴槍？")
29
[情報] 學園偶像大師 遊戲動畫OP![[情報] 學園偶像大師 遊戲動畫OP](https://img.youtube.com/vi/-fI9rNo28CY/mqdefault.jpg "[情報] 學園偶像大師 遊戲動畫OP")
29
[Vtub] MIKO是不是真的很菁英![[Vtub] MIKO是不是真的很菁英](https://i.imgur.com/NJ9RyAtb.jpeg "[Vtub] MIKO是不是真的很菁英")
29
[閒聊] 芙莉蓮：快住手啦<(￣ω￣)>![[閒聊] 芙莉蓮：快住手啦<(￣ω￣)>](https://i.imgur.com/wvJjRgLb.gif "[閒聊] 芙莉蓮：快住手啦<(￣ω￣)>")