Re: [新聞] 抵抗人類指令！ ChatGPT o3「竄改程

其實目前的生成式AI再怎麼厲害，都只是分析推理能力更厲害，就算給了他更多的感知器，那也頂多只做到眼耳鼻舌身意，還是不會有自我意識。
但想要機器有意識的想法一直都有討論，可參考下面論文提到的路線圖
David J. Chalmers, Could a Large Language Model Be Conscious? Boston Review, August 9, 2023. https://www.bostonreview.net/articles/could-a-large-language-model-be-conscious/
簡單說，離具備意識至少還差幾項條件：
1. 要有身體提供邊界感：讓機器能夠區分「自身」的範圍和身外之物的差異
2.要有連貫記憶提供主體感：必須能記得自啟動到目前所得到的內容，以形成機器自己的「人生」經歷
3.要有能自我覺察的思考模型，擁有一個表示「我是誰、我知道什麼、我做了什麼」的資料結構並不斷更新
4. 给 AI 自主能力。自主選擇注意哪裡、忽略什麼，而不是被動地對输入做反應

做到以上4點，然後驗證讓機器人能否做到
1.看鏡子能分得出自我與他人
2.知道自己昨天做了什麼，過去經歷了什麼
3.對於自身的行動能表達其動機目的與目標等

做到這樣，大概就能說我們讓機器模擬出自我意識了

接下來要問的，就是我們真的需要這樣的機器人嗎？一個不能隨時斷電清空其記憶，有自己想法會自主活動，不再被動反應而是可能主動行動影響你的生活，我們真的需要這麼危險的存在而不是維持現在只要chatgpt陪你聊天就好嗎？

--