Re: [21春] Vivy最後的boss會是誰？

※ 引述《loserfeizie (赤井心救援大隊長)》之銘言：
: Vivy第10集雷
: Vivy作曲的事情
: 知道他的曲子只有四個人
: 一個是他自己
: 一個是松本
: 另一個也是松本
: 還有一個亞卡布
: 就是在音樂教室跟他對話的機器人
: 這100年唯一跟著Vivy的AI
: 名字的全稱叫“AI集合資料庫 亞卡布”
: 能夠讓全部的AI知道Vivy的曲子
: 好像也只有她
: Vivy最後的大boss會不會就是亞卡布？

表面上來看 是擁有複寫AI最高權限的管理程式(who? 亞卡布?)

嚴格上來說 應該是人類自己吧

其實當"自律型AI"出現時 基本上他們就已經是人了(我思故我在)

而人的思考跟情緒是不考靠的 所以才需要機器輔助/SOP/法律限制/政體框架

嚴格來說 就是盡可能避免少數人獨斷決策跟失誤能影響大局

但是這部作品來看AI 人類賦予它們各種權力跟義務

但其實沒什麼制衡 甚至是用AI管理AI

既然自律型AI跟人一樣有同樣的情緒跟思考 就意味著必然會犯跟人類一樣的錯誤

(劇裡眾多機種都演示過了 自律AI絕不是完美無缺的)

過度依賴AI的結果 可視為賦予AI極高的權力

看看人類政體賦予某一族群過高權力 會發生什麼事情就知道

這也是許多科幻作品跟遊戲會將大規模使用自律型思考AI視為危險科技的原因

: 創造且過度依賴AI的作法 可視為過度放權給名為AI的新人類而不自知

今天就算不是vivy衍生出後續的病毒失控 依莫非定律也遲早會有其他AI做出一樣的事

除去人類這個萬惡因素以外

最終BOSS 可能就是VIVY自己了吧 : 畢竟她是第一台自律型人形AI

如果VIVY在一開始就能因為某些事故或原因不被允許擁有自律AI思考

或許就不會有其他機種跟事件出來

蠻諷刺的 也許這奇點計畫 最終的源頭其實就是她自己而不自知

--

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.11.204 (臺灣) ※ 編輯: zball (1.34.11.204 臺灣), 05/30/2021 02:59:00