Re: [閒聊] 低等動物被認為有意識,那AI難道沒有嗎?

※ 引述《a0930307148 (hoho)》之銘言 07/11 05:37
: 其實我覺得我首篇的定義已經在文中給出來了
: 那就是我把意識當作是一種機械運算
: 當然這麼說很多人難以認同,因為小北百貨賣的便宜電子計算機也能運算
: 所以我給出的具體定義是:
: 在持續供給動能下,為解決任務目標,多維度交叉運算產生的神經自我迭代能力

: 總結一下就是
: 1不同的傳感器和神經系統映射的世界可以是不同的
: 2有限的傳感器在持續提供動能和任務目標下也能發展出複雜的思維層次
: 3神經系統的建構不必然需要有機生命,不必然需要求生欲,只需要有可拓展的任務目標: 4在我們無法判定多複雜的動物開始有意識,就不能簡單的判定AI沒有意識
: 5多維度的資料庫不斷重組分析和試錯,就能產生創造力,這就是思維的本質

感謝你的回覆。我覺得只有這樣的討論最終才能孕育出有建設性的結論。

關於第一點，我是完全同意的。人類對世界的認知，顯然不會跟擁有超音波的海豚之類的生物一樣。感官的不同決定了我們對這個世界認知的不同。而每個生物不同的對世界的認知，都是配合這個物種的環境以及其他能力，恰足以讓這個物種生存下來，因而發展出來的。

那麼現在的AI對世界的認知是如何呢？如果我們討論的是不含圖像處理能力的LLM的話，LLM唯一認識世界的方式只能透過文字。因此可以想見他對世界的認知跟人類是相當不一樣的。大部分人類的大腦其實花費了很大一部分的資源在處理視覺訊號。但這不影響我們同意AI能夠形成一個高度複雜的對世界的認知。

你提到持續的任務目標，我也同意這對一個個體來說非常的重要。生物的各項能力其實都是為了「延續物種」這個目標而產生的。但要注意，「延續物種」是終極目的。實際上為了達成這個終極目的我們演化出了很多中程目的，而我們的很多能力與本能直接服務的其實是這些中程目的而不是終極目的。
舉例來說，我們有吃飽，交配，生存，社交，等等基本需求。這些基本需求就是我們的中程目的。當我們肚子餓又聞到很香的食物味道，本能的就會分泌口水。這是無關意識的一個本能反應，而它服務了吃飽這個中程目的。而我們認知到這是食物、產生食慾、在腦中思考如何得到這個食物的行動計畫，這些則是都跟思維有關的，用來服務同一個目的能力或本能。我們的複雜思維能力了不起的地方就在於，這一套系統就能夠相當好的滿足我們的多個基本需求，而不需要每個基本需求都發展出各自的一套生理反應機制。

那麼AI有沒有持續的任務目標呢？以LLM來說，他的訓練過程其實是讓他能夠更好地預測下一個文字。也就是說我們訓練LLM的直接目的就是為了練出能夠很好的「模仿人類接話」的一個系統。現在的LLM在這個目標上可以說已經做的相當不錯了。
但這個目的在LLM回完話之後就被達成了。直到使用者提示下一個Prompt之前，LLM都沒有進一步的任務目標，所以可以說，現行的聊天機器人（不論是不是以LLM為基本架構），都沒有被給予持續的任務目標。

也因此，聊天機器人並不需要AI有主動想要去做什麼事情的慾望。這也是很多人不承認AI有意識的論點。畢竟，在自然界，好像自主的行動是有意識的生物的必要條件。

AI的終極目的應該是什麼呢？我認為，「服務人類，使人類過上更好的生活」，可以作為發展AI時的一個較合理的終極目的。這個終極目的跟生物的終極目的「延續物種」一樣，是持續且永遠無法被滿足的。也就是說，要很好的、持續的達到這個終極目的，一個AI勢必得展現出主動行為。
但要達成這個終極目的，應該先設定哪些中程目的，這就需要工程師（或者整個人類社會）仔細的思考了。

我能夠想到的一些中程目的，包含：

1. 認主：也就是AI會認定一個或數個個人為主人。為此，AI要有尋找主人的慾望，認定某個人類是主人的能力等等
2. 奉侍：AI要能夠使主人的生活更好。為此需要的能力恐怕非常多，包含社交能力（模仿人類說話是重要的一環，但可能還需要更多），共感能力（日本有機器人能夠揣測人類當前情緒），計劃能力，行動能力（控制機械身體行動）……族繁不及備載
3. 生存：AI自己要能夠生存並且自我保護，才能夠持續服務主人。為此需要的能力與本能，大概從現有生物身上可取得很多靈感

這每一個單項的能力，我想以現有的科技大概都訓練的出來，或至少在幾年之內可以達成。但目前可能還缺乏一個系統將這些能力整合起來。

而要將這些能力整合起來，我想Q-Learning的架構也許是一個可以考慮的方向。但Q-Learning 也已經是十多年前的東西了。不知道現在有沒有更適合的架構來作為一個統合的決策系統？

----
Sent from BePTT on my Samsung SM-S936U1

--