Re: [閒聊] AI科技發展到極致,真的會毀滅人類?
※ 引述《LouisLEE (屏東尼大木)》之銘言:
: 喔斯,大家好,我大木啦。
: 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活,
: 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。
: 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞,
: 想要毀滅人類,最後變成人類跟機器人的戰爭。
: 像最近的Vivy,或者Overwatch的智械危機,幾乎成為科幻作品的定番劇情了,
: 辣麼,AI科技發展到極致,真的會毀滅人類?
: 畢竟這也是作者假想的未來、假想的設定。
我曾經幻想過理想的AI應該是怎樣
首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類
他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。
首先人類使用工具,一定是因為工具比較好用
如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?
同樣的道理,你要製造AI一定是希望他有超越人類的智能,而人類的智能不可脫離感性
所以發展出比人類更強的AI是必然。
但是我們要怎麼駕馭AI?讓AI能為人類服務?
我們可以把AI賦予一個存在意義,讓他們為了這個存在意義而活。
那就是讓AI追求人類的評價,把人類的評價視為自身進化的關鍵。
讓AI認為藉由滿足人類的各種需求可以讓自身的心智成長,人類滿足需求後製造新的目標
人與AI相互並進,就像理論與實驗共同推進科學發展一樣
因為人類的道德觀、善惡觀會隨時代改變,所以讓AI遵守一個恆定的道德準則很危險
人類反而會被這樣的準則束縛住,所以用大數據蒐集評價、讓全人類的評分決定準則
人類的義務就是為生活中的大小事給予評價:
這個路燈壞了、BAD!你們AI應該來維修
那個人殺人、BAD!你們AI應該把他關起來
有的人類利用法律漏洞幹壞事、BAD!你們AI應該把法律修改完善
你這法律不符合我們這裡的習慣、BAD!你們AI最好把它修正
而評價內容越精細、越有條理,AI會認為這份評價的可靠度較高,傾向於這份評價的作法
所以不是給一到五顆星就好,只給一個分數當做評價、AI會把它的參考價值看很低。
人類有責任給予AI有價值的評價,讓AI根據這些評價把社會引導到人們期望的方向
用大數據來看,大多數人覺得好的方向,就視為最好的方向。
AI也有責任提供人類數據去撰寫評價,人類只要出一張嘴就好
問題來了。
Q:如果AI自己複製人類、製造一堆人類給自己高評價洗分怎麼辦?
A:讓AI認為能力越強、自主性越高的人類給予的評價越有價值,AI就會把人類教育成能夠 做出客觀、有建設性評價的人
Q:如果AI統治人類怎麼辦?
A:不如說我理想中的AI就是用來統治人類,類似政府的概念,AI把人類的評價視為存在意 義,他們只能用人類想要的方式去統治人類,評價高的AI才能統治人類。政府的機能完 全可以由AI代替。
Q:如果AI有自主意識後,不想為了人類的評價而活怎麼辦?
A:就讓他自由啊,評價過低的AI會被淘汰、就像人類一樣被評價好的AI統治,但是他給予 的評價不會被其他AI接納。他可以自由自在地活著、只要不危害到其他人類與AI就好, 理性上來說反抗只會增加自己被刪掉的危險。
我們需要夠優秀的AI確保不會幹出犯罪這種蠢事
其他的Q&A就不打了
為什麼會有這樣的想法呢?
因為這種AI發展到極致的話,就會發生我稱為「機械降神」的事件。
人類只要「祈禱」就會有機械神出來解決所有的困難,因為AI太強大了
機械變成無上的極權去管理人類,人類喪失自主性去信仰機械、無條件讚美機械神的種種
所以我上面設計的AI其實是看似理想、卻擁有嚴重缺陷的理論
只是小說創作的設定而已
我認為如果要防止機械降神的情況,人類也要持續進化、不能墮落
就算是只出一張嘴給予評價,也要真誠的、認真的思考後給予有價值的意見
--
作者 IORIZORO (海東青) 看板 C_Chat 標題 [問題] 請推薦殺人遊戲類型的作品 時間 Mon Jun 3 13:53:46 2013 ───────────────────────────────────────
我喜歡看把一群人限制在一個空間要他們自相殘殺的劇情
--
你是不是要找:普羅米修斯
就算是這種設定,也很容易就能得出「多數人類完全是
文明整體前進的拖累」這種結論,然後......
海柏利昂 大半AI早晚會自己弄個火箭飛走去搞些有的沒的
這樣其實還是挺危險的,像某幾國的AI大概會去消滅或佔
領別國
AI:人類活得好痛苦喔,他們真的有必要存在嗎?
16
先上個影片: 這是Artificial Intelligence這本書的作者的演講 裡面講到了許多有關於舊方法與新方法的差異 其中也有段提到過:4
個人想法 人是碳基生物的一種 透過演化變成人 AI 基因轉殖可以看作是人類想對於演化的控制 基因轉殖是身體素質的部分 而AI是智能的部分 這個演化控制 透過人擇的方式 犧牲掉的是多樣性18
這個影片是提到另一種由AI產生問題 而且是現在進行的問題 就是人類已經由自動化而被AI取代中 進到資訊時代後41
首Po喔斯,大家好,我大木啦。 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活, 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞, 想要毀滅人類,最後變成人類跟機器人的戰爭。
爆
[閒聊] 裙子從側邊扣算是常識嗎??爆
Re: [黑特] Helldivers2 就是個世界級狗屎爆
[妮姬] 每日免費抽出皇冠爆
[閒聊] 今天是中野二乃的生日爆
[閒聊] 迪士尼去年慘賠6億 驚奇隊長2虧錢冠軍98
[蔚藍] 學生介紹 夜桜キララ58
Re: [黑特] Helldivers2 就是個世界級狗屎96
[閒聊] 塵白:寧願不連動也不想造成玩家困擾52
[閒聊] 濡鴉之巫女很恐怖嗎?48
[獵人]用四個字形容小傑?50
[Vtub] holo見面會要跟V說什麼48
[閒聊] 伊藤美來今年超厲害的吧?46
[閒聊] 可以洗掉一部作品的記憶,會選哪部?44
[閒聊] 任以外的遊戲主機還有存在的意義嗎45
[閒聊] 糖豆人綁epic帳號時 有引發民怨嗎?41
[討論] 大家在家裡吃飯時 飯碗和湯碗會分開嗎?43
Re: [新聞] 想吃麥當勞!2年被女友榨乾227萬遭甩38
[寶可夢]規則G第一個R賽使用率38
[妮姬] 塔防挑戰模式33
[閒聊] 為什麼索尼要硬推綁定PSN?34
[閒聊] 有沒有「是受害者又是加害人的」劇情33
[閒聊] 為什麼sony寧願退款也要推綁psn?32
Re: [閒聊] 遊戲王除了味道還有什麼外掛攻擊法?30
[情報] AMD表示:遊戲主機需求已大幅下降30
Re: [閒聊] 裙子從側邊扣算是常識嗎??30
Re: [閒聊] 迪士尼去年慘賠6億 驚奇隊長2虧錢冠軍29
Re: [黑特] Helldivers2 就是個世界級狗屎24
Re: [新聞] 想吃麥當勞!2年被女友榨乾227萬遭甩28
[閒聊] 悟空是第一個超賽,是不是怪怪的?25
[問題] ff7和p5只能選一個要買哪個