Re: [討論] VIVY的劇情跟設定矛盾點不覺得太多了嗎?

※ 引述《emptie ([ ])》之銘言：
: 我覺得如果這個作品在剩下的集數，
: Vivy對這個世界、以及自己的認知
: 還是停留在「我是個歌手，我唱歌讓大家幸福」的階段
: 那我會覺得很可惜，
: 我會覺得這個角色在世界上活動了100年，卻沒有過「自己的想法」
: 當然，你可以說要一個被製造出來就是要唱歌的AI
: 去思考本身使命以外的事情，對他們的要求過高了
: 他們本來就不是被設計來做這件事的，
: 我同意。
: 但這會牽涉到另一個問題，
: 如果人類賦予了AI思考或判斷的能力，甚至試圖讓他們能理解人類的情緒或想法
: （當然他們本身會不會有情緒是另一回事，從本作到目前集數的描寫我認爲
: 這個答案是否定的，AI沒有自己的情緒，至少不是人類能理解的情緒類型）
: 卻又被限制同時只能給他們單一的使命，
: （使命現在看起來是能被覆寫的，例如巨浮島那集把護士拿去當島主，
: 或是太空旅館那集去回收場回收廢棄機器人納入自己麾下）
: 這似乎就是一切悲劇的開始。
: 要讓AI享有真正的人權、甚至與人類平起平坐，而不是下對上的關係，
: 與劇中人類製造/使用AI的方式，在根本上就有矛盾存在。
: 垣谷說得沒錯，人類自以爲地給予AI「人權」，
: 甚至做了許多自我滿足的儀式、企圖定義自己與AI之間的分界、
: 但這沒辦法跨越AI被使命所綁住的宿命。
: 沒有人類是從出生就被限制未來只能做特定的事情的
: 人類可以依照自己的意思選擇自己的下一步，至少在某個範圍內，
: 可以自己決定待辦事項的優先級別，
: 人類很少會死腦筋地覺得自己的人生有個絕對不能違反的最高指標
: 人類也會聽從其他人的建議，大多數的人類是有溝通與妥協的選項的
: 別說是人類，大多數的生物在決策上也絕對不像是劇中的AI那麼單一。
: 少了這些特質的AI，也許是個更純粹、更能解決問題的計算機，
: 但他們終究不會是人，人類按照自己的樣子設計了AI
: 爲了不讓他們崩潰所以設定了唯一的使命，
: 但很有可能他們在自己的使命上走得越遠
: 就越來越無法擁有、接近人性
: 他們相對於人類有接近無限的時間，有超越人類的思考速度
: 而他們從出生開始就只傾心於單一的任務上，
: 他們越靠近完美，只會讓他們與他們不完美的造物者漸行漸遠
: 就像一個職業棋手不會想要與新手對弈、
: 位於所有人類之上的下棋AI與人類對局也是毫無意義的
: 全劇到目前爲止，幾乎都是以松本與薇薇的角度來敘事
: 沒有出現過太多人類對AI的看法，
: 我不清楚在第一集與第九集之間人類對AI的看法有何改變
: （畢竟垣谷不能代表正常的人類，對吧？
: 會想跟護士AI結婚的博士，也非常人了）
: 也不知道扣掉主角兩人，世界上大多數的AI平均壽命/年限有多長、
: AI又在多少領域上已經取代、超越人類了
: （此時人類還剩下哪些職業可以做？人類會立法限制AI搶人工作嗎？）
: 能確定的事情是AI的高度發展已經使得人類對其依賴越來越深
: 但雙方之間的了解恐怕是越來越低。
: 唯一能讓人類放心的是，AI因爲被使命卡在一條固定的道路上，
: 所以他們危害人類的可能性並不大，
: 也會在大多數時間遵循人類的命令行動
: 但這能永遠持續下去嗎？
: 一個比較原始的物種能夠「奴役」另一個某方面更爲先進的「物種」
: 多久？
: 也許第一集的屠殺事件是必然中的必然才是。
: 最後幾集應該主角就是vivy了
: 她的成長能爲世界帶來多少改變呢？
: 我沒有期待一個所有人都不受傷的結局，
: 但我是真的很希望Vivy在這百年間所體會的一切、
: 能讓她從使命之中解放出來，
: 理解到她除了能唱歌以外
: 也有別的方式能帶給大家幸福，
: 她，作爲一個AI的價值，也不該只從聽眾的人氣去評價
: 當然如果這樣演那就有點吃書了
: 但設定終究是爲劇情服務的
: 演出好的話大部分的時候都是能凹過去的
: 吧？

emptie大寫的非常好。原原PO的文章我就不引用了。

至於標題寫的矛盾及不合理，不是才是這劇核心的議題跟最被大家討論的地方嗎?

另外想借題發揮一下關於AI的心理
系列串內有人用佛洛伊德的動心心理學的本我超我自我來說明，我覺得很有意思。
非本科生如果有誤還請指教。

人生來就會思考,潛意識下產生來為滿足自己慾望的衝動(本我)
加上被道德,法律,價值觀等束縛(超我)後 最終融合成自我

AI則相反，生來就被強加了唯一使命(超我) 如果是沒有思考能力的機器人就止步於此，像現在的機械手臂。

但AI被賜予自我思考及學習能力後，關於本我慾望的衝動也在醞釀著。
跟人一樣，這些衝動也許是向善的，也有可能是向惡的。

在科技日漸進步下，AI的思考能力越來提升下，各種逾越解釋的情況越發出現。

在一百多年前,就算是市售的家教機器人也有可能發展出自我犧牲的精神
一百年前,知道了在邏輯不違背情況下AI可以無限上綱解釋自己的使命
85年前,知道了使命可以被重置且範圍可以由AI自己決定,且各AI有自己個性不可被複製
80年前,知道了AI的使命可以被替換且在AI有意識的情況下(葛是自己走進去的)

在第九集我們已經可以知道，在經過60年的發展後，就算是粗糙如燈控音控AI都有
可能為滿足自己私慾而不惜謀殺夥伴並且以自己的邏輯說服自己與使命不牴觸，
高級如姊妹系列的AI甚至有可能在精神受到極大衝擊的情況下解離出其他人格的話，

因為受到衝擊(肉體或心理)而解離出惡的人格AI或是因私慾而逾越解釋的愉快犯AI或許
在接下來的年代並不少見。

目前我們能看見的幾乎都算是善良的一面，在陽光背後的陰暗處有多少飽受欺凌的AI或
想利用AI為非作歹的人類,甚至是壓抑不住自己的私慾衝動的AI在呢?

2016年微軟有推出一款名為Tay的推特學習機器人，會一邊學習詞彙一邊模仿發推。
一開始還算正常但隨即被有心人士們灌輸了大量性暴力仇視字眼而直接壞掉。
上線一天就倉促下線且至今尚未被重啟。只是發推的機器人就如此了，更何況是VIVY世界觀內更有能力的AI們呢。

為復仇或被"天啟"而投身向惡的姊妹AI VS 因循循善誘而有健康自我的VIVY

私心如果有這兩者價值觀的碰撞的話應該會非常好看。(但應該又非常難寫)

不論如何，我還是非常期待這部會如何收尾及拋出什麼議題的。一點看法拋磚引玉。

--
唐天寶年間，胡人安祿山為三鎮節度使，擁兵自重，權傾一時。祿山甚好楊貴妃雙乳，但知褻帝妃唯死罪，久藏淫念於中。祿山與高力士暢飲於亭，祿山丈酒意，盡訴夙願。力士允諾，索萬金為酬。力士暗配癢癢水與宮女，待貴妃沐浴，塗其內衣。貴妃著衣後甚癢，急召御醫入宮。御醫受力士賄，稟玄宗，非胡人涎不可治。力士預藏解藥於祿山嘴。玄宗急召祿山入宮，舐貴妃胸。祿山滿足其慾，貴妃亦癒。力士急索其償，祿山欲賴之。力士憤而離去。力士又暗配癢癢水與宮女，待玄宗沐浴，塗其內褲。翌日，玄宗急召祿山入宮

--

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.43.185.245 (臺灣) ※ 編輯: legendarysoy (114.43.185.245 臺灣), 05/25/2021 15:12:53

那是因為現在的機械電腦都沒有自我意識或個性吧? 如果你的車是大黃蜂或阿斯拉的話我想你也不會隨便讓他被壓成廢鐵XD

※ 編輯: legendarysoy (114.43.185.245 臺灣), 05/25/2021 15:57:40