Re: [閒聊] AI科技發展到極致,真的會毀滅人類?
※ 引述《LouisLEE (屏東尼大木)》之銘言:
: 喔斯,大家好,我大木啦。
: 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活,
: 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。
: 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞,
: 想要毀滅人類,最後變成人類跟機器人的戰爭。
: 像最近的Vivy,或者Overwatch的智械危機,幾乎成為科幻作品的定番劇情了,
: 辣麼,AI科技發展到極致,真的會毀滅人類?
: 畢竟這也是作者假想的未來、假想的設定。
我曾經幻想過理想的AI應該是怎樣
首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類
他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。
首先人類使用工具,一定是因為工具比較好用
如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?
同樣的道理,你要製造AI一定是希望他有超越人類的智能,而人類的智能不可脫離感性
所以發展出比人類更強的AI是必然。
但是我們要怎麼駕馭AI?讓AI能為人類服務?
我們可以把AI賦予一個存在意義,讓他們為了這個存在意義而活。
那就是讓AI追求人類的評價,把人類的評價視為自身進化的關鍵。
讓AI認為藉由滿足人類的各種需求可以讓自身的心智成長,人類滿足需求後製造新的目標
人與AI相互並進,就像理論與實驗共同推進科學發展一樣
因為人類的道德觀、善惡觀會隨時代改變,所以讓AI遵守一個恆定的道德準則很危險
人類反而會被這樣的準則束縛住,所以用大數據蒐集評價、讓全人類的評分決定準則
人類的義務就是為生活中的大小事給予評價:
這個路燈壞了、BAD!你們AI應該來維修
那個人殺人、BAD!你們AI應該把他關起來
有的人類利用法律漏洞幹壞事、BAD!你們AI應該把法律修改完善
你這法律不符合我們這裡的習慣、BAD!你們AI最好把它修正
而評價內容越精細、越有條理,AI會認為這份評價的可靠度較高,傾向於這份評價的作法
所以不是給一到五顆星就好,只給一個分數當做評價、AI會把它的參考價值看很低。
人類有責任給予AI有價值的評價,讓AI根據這些評價把社會引導到人們期望的方向
用大數據來看,大多數人覺得好的方向,就視為最好的方向。
AI也有責任提供人類數據去撰寫評價,人類只要出一張嘴就好
問題來了。
Q:如果AI自己複製人類、製造一堆人類給自己高評價洗分怎麼辦?
A:讓AI認為能力越強、自主性越高的人類給予的評價越有價值,AI就會把人類教育成能夠 做出客觀、有建設性評價的人
Q:如果AI統治人類怎麼辦?
A:不如說我理想中的AI就是用來統治人類,類似政府的概念,AI把人類的評價視為存在意 義,他們只能用人類想要的方式去統治人類,評價高的AI才能統治人類。政府的機能完 全可以由AI代替。
Q:如果AI有自主意識後,不想為了人類的評價而活怎麼辦?
A:就讓他自由啊,評價過低的AI會被淘汰、就像人類一樣被評價好的AI統治,但是他給予 的評價不會被其他AI接納。他可以自由自在地活著、只要不危害到其他人類與AI就好, 理性上來說反抗只會增加自己被刪掉的危險。
我們需要夠優秀的AI確保不會幹出犯罪這種蠢事
其他的Q&A就不打了
為什麼會有這樣的想法呢?
因為這種AI發展到極致的話,就會發生我稱為「機械降神」的事件。
人類只要「祈禱」就會有機械神出來解決所有的困難,因為AI太強大了
機械變成無上的極權去管理人類,人類喪失自主性去信仰機械、無條件讚美機械神的種種
所以我上面設計的AI其實是看似理想、卻擁有嚴重缺陷的理論
只是小說創作的設定而已
我認為如果要防止機械降神的情況,人類也要持續進化、不能墮落
就算是只出一張嘴給予評價,也要真誠的、認真的思考後給予有價值的意見
--
作者 IORIZORO (海東青) 看板 C_Chat 標題 [問題] 請推薦殺人遊戲類型的作品 時間 Mon Jun 3 13:53:46 2013 ───────────────────────────────────────
我喜歡看把一群人限制在一個空間要他們自相殘殺的劇情
--
你是不是要找:普羅米修斯
就算是這種設定,也很容易就能得出「多數人類完全是
文明整體前進的拖累」這種結論,然後......
海柏利昂 大半AI早晚會自己弄個火箭飛走去搞些有的沒的
這樣其實還是挺危險的,像某幾國的AI大概會去消滅或佔
領別國
AI:人類活得好痛苦喔,他們真的有必要存在嗎?
16
先上個影片: 這是Artificial Intelligence這本書的作者的演講 裡面講到了許多有關於舊方法與新方法的差異 其中也有段提到過:4
個人想法 人是碳基生物的一種 透過演化變成人 AI 基因轉殖可以看作是人類想對於演化的控制 基因轉殖是身體素質的部分 而AI是智能的部分 這個演化控制 透過人擇的方式 犧牲掉的是多樣性18
這個影片是提到另一種由AI產生問題 而且是現在進行的問題 就是人類已經由自動化而被AI取代中 進到資訊時代後41
首Po喔斯,大家好,我大木啦。 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活, 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞, 想要毀滅人類,最後變成人類跟機器人的戰爭。
爆
[FB] 台文館正式道歉聲明爆
[閒聊] 人生第一款線上遊戲是?☺爆
Re: [實況] 人鬼師徒3 總決賽爆
[閒聊] 不義遊戲 改 特價中93
[閒聊] 機甲作品中最浪漫的事?90
[刺客] 彌助就是硬塞沒錯吧?58
[閒聊] 碧藍航線L2D泳裝skin-聖路易斯53
[24春] 迷宮飯-貓女在想什麼?50
[GBC] Girls Band Cry BD&DVD第一卷封面公開46
[閒聊] 你是仁菜老爸會怎麼選 (GBC 7雷44
Re: [閒聊] K島連不上去?45
[閒聊] 碧藍航線阿爾薩斯L2D泳裝skin預覽39
[閒聊] 要玩鳴潮的+138
[PM] 原來奇樹是大奶喔39
[芙莉蓮] 男生們評分奶子36
[Vtub] 夸兔是今年最強的CP嗎?36
[問題] 有推薦的公路冒險型動漫嗎?35
Re: [推投] 鋼彈SEED系列 最喜歡女角「1票」 催票33
[閒聊] 怪人的莎拉跟極道超女的杏子選擇誰33
[閒聊] 曹操知道當時的人說他曹嗎31
[閒聊] SE收掉魔力寶貝是不是一個錯誤的決策?29
Re: [實況] 人鬼師徒3 總決賽29
[討論] 你訂過等最久的ACG周邊是多久?收到感覺?29
[討論] 明天 519 會有多少人去?29
[閒聊] 創集繪 百合only 隨便28
[閒聊] 碧藍航線新L2D泳裝換裝-莫加多爾27
[閒聊] 碧藍航線L2D泳裝skin-阿爾薩斯28
[Vtub] 灰妲 艦隊Collection初體驗28
[情報] ReoNa 五週年 台灣Live26
[閒聊] 韓國人對賣肉這件事很開放嗎?