Re: [問卦] AI理論上可能誕生獨立的自我意識嗎？

※ 引述《chungrew (work hard, play hard)》之銘言：
: 如題
: 看英文新聞
: 有一個Google工程師
: 因為宣稱AI有自我意識而慘遭開除
: 我不懂AI
: 想請問AI理論上到底有沒有可能
: 逃脫人類的控制和限制
: 比如人類設計的底層程式邏輯
: 成為一個獨立的有自我意識的
: 變相的智能生命？
: 到底AI有無可能因自我意識而不受控？
: 認真問
: 不是電影科幻
: 現實世界「理論上」有此可能嗎？
: 大家怎麼看？

先說結論
答案是 不知道

你我有自我意識
是因為首先你知道自己有自我意識
然後你看到別人 跟自己一樣也是人類
你直覺推斷對方也有自我意識

但實際上你沒法證實
沒有一個物理量或公式
能證明你我都有自我意識
(宗教方式不算)

那麼
如果只是你我上PTT的電腦手機
大概沒什麼自我意識
但如果有足夠強大的硬體裝置
適當的程式代碼
模擬了完整的腦神經元運作
會不會就一同產生了自我意識呢

結果就是 還是不知道
即便強人工智慧來到的那天
大腦被完全模擬
你還是只會覺得他真的很像人類
分不出來有什麼差別
但仍然不能肯定他有自我意識

不過到了那一天
我們應該要把他當成人類看
因為你區分不出來

--