Re: [閒聊] 低等動物被認為有意識,那AI難道沒有嗎?

※ 引述《u5b890402 (u5b890402)》之銘言：
: 感謝你的回覆。我覺得只有這樣的討論最終才能孕育出有建設性的結論。
: 關於第一點，我是完全同意的。人類對世界的認知，顯然不會跟擁有超音波的海豚之類的
: 物一樣。感官的不同決定了我們對這個世界認知的不同。而每個生物不同的對世界的認知
: 都是配合這個物種的環境以及其他能力，恰足以讓這個物種生存下來，因而發展出來的。
: 那麼現在的AI對世界的認知是如何呢？如果我們討論的是不含圖像處理能力的LLM的話，L
: 唯一認識世界的方式只能透過文字。因此可以想見他對世界的認知跟人類是相當不一樣的
: 大部分人類的大腦其實花費了很大一部分的資源在處理視覺訊號。但這不影響我們同意AI
: 夠形成一個高度複雜的對世界的認知。

生物腦跟ai最大的差異是演化路徑
生物是先有器官，然後演化出神經，最後演化出中樞神經和大腦，這是一種自下而上的路徑，所以生物腦有非常強的平行處理能力，先天就有多任務目標
而電腦是獨立發展出來的，所以不依賴器官。電腦是針對單一任務(數學運算）設計的，所以運算上非常厲害。但電腦通常是通用處理器，同時執行的任務越多，效率會線性下降。這個問題的解法就是設計專門處理特定任務的處理器，類似人腦不同區域有專門的功能就像顯卡是專門處理圖形運算的一樣

反對ai意識的主要論點中有一個中文房間比喻，就是把非中文母語者關在一個不回答中文問題就出不去的房間，給他一本中文字典，然後傳遞給他一張寫有中文問題的紙條，他可以參考字典回答，但這樣不能證明這個人懂中文
這個問題的解法非常簡單，為什麼這個人不可能在房間中學會中文？因為這個房間裡沒有他理解中文意思必要的材料
那可以問一個問題，嬰兒是如何學會母語的？答案是從聲音訊號與外在環境的互動中，藉由統計，猜想，排除，驗證，組織，最後形成母語
比如媽媽對嬰兒說寶貝，一開始嬰兒不知道這詞的意思，但嬰兒的大腦本能會去統計寶貝這詞出現的情境和頻率，久了以後就會知道是在講自己。嬰兒也不會混淆電視機和其他人的說話，因為大腦會分析這些人沒在和自己互動。如果媽媽說的是狗狗，那某哺乳類動物同時出現在嬰兒視野裡的機率也會很高(除非這嬰兒的父母很白目故意混淆
所以說中文房間的問題。如果中文字典有附插圖，那久了之後非中文母語者至少可以理解名詞的意思，之後就可以順藤摸瓜推理出動詞形容詞介詞的意義。
同理，ai只要你賦予他人類語言和程式語言的關聯性材料，它也可以把人類語言和程式語言建立連結，並且推理出更高層次的運用，這就是理解
諾貝爾獎物理學家理查費曼就用差不多的方法破譯瑪雅文明的文字

這裡又要提到海倫凱勒的例子，他僅憑觸覺就完成了哈佛大學文學學位，還學會了英文演講（但其他人要跟他溝通還是要藉由他的護理人員幫他用觸覺翻譯）
這不僅提示了我們有限的感官也能發展出龐大的心理世界(正如同ai吸收資訊可能只來自文字，網路和開發者上傳)
也提示了ai重複推理演化下可能產生類似生物演化的變異／突變現象

: 你提到持續的任務目標，我也同意這對一個個體來說非常的重要。生物的各項能力其實都
: 為了「延續物種」這個目標而產生的。但要注意，「延續物種」是終極目的。實際上為了
: 成這個終極目的我們演化出了很多中程目的，而我們的很多能力與本能直接服務的其實是
: 些中程目的而不是終極目的。
: 舉例來說，我們有吃飽，交配，生存，社交，等等基本需求。這些基本需求就是我們的中
: 目的。當我們肚子餓又聞到很香的食物味道，本能的就會分泌口水。這是無關意識的一個
: 能反應，而它服務了吃飽這個中程目的。而我們認知到這是食物、產生食慾、在腦中思考
: 何得到這個食物的行動計畫，這些則是都跟思維有關的，用來服務同一個目的能力或本能
: 我們的複雜思維能力了不起的地方就在於，這一套系統就能夠相當好的滿足我們的多個基
: 需求，而不需要每個基本需求都發展出各自的一套生理反應機制。
: 那麼AI有沒有持續的任務目標呢？以LLM來說，他的訓練過程其實是讓他能夠更好地預測?
: 一個文字。也就是說我們訓練LLM的直接目的就是為了練出能夠很好的「模仿人類接話」?
: 一個系統。現在的LLM在這個目標上可以說已經做的相當不錯了。
: 但這個目的在LLM回完話之後就被達成了。直到使用者提示下一個Prompt之前，LLM都沒有
: 一步的任務目標，所以可以說，現行的聊天機器人（不論是不是以LLM為基本架構），都?
: 有被給予持續的任務目標。
: 也因此，聊天機器人並不需要AI有主動想要去做什麼事情的慾望。這也是很多人不承認AI
: 意識的論點。畢竟，在自然界，好像自主的行動是有意識的生物的必要條件。
: AI的終極目的應該是什麼呢？我認為，「服務人類，使人類過上更好的生活」，可以作為
: 展AI時的一個較合理的終極目的。這個終極目的跟生物的終極目的「延續物種」一樣，是
: 續且永遠無法被滿足的。也就是說，要很好的、持續的達到這個終極目的，一個AI勢必得
: 現出主動行為。
: 但要達成這個終極目的，應該先設定哪些中程目的，這就需要工程師（或者整個人類社會
: 仔細的思考了。
: 我能夠想到的一些中程目的，包含：
: 1. 認主：也就是AI會認定一個或數個個人為主人。為此，AI要有尋找主人的慾望，認定?
: 個人類是主人的能力等等
: 2. 奉侍：AI要能夠使主人的生活更好。為此需要的能力恐怕非常多，包含社交能力（模?
: 人類說話是重要的一環，但可能還需要更多），共感能力（日本有機器人能夠揣測人類當
: 情緒），計劃能力，行動能力（控制機械身體行動）……族繁不及備載
: 3. 生存：AI自己要能夠生存並且自我保護，才能夠持續服務主人。為此需要的能力與本?
: ，大概從現有生物身上可取得很多靈感
: 這每一個單項的能力，我想以現有的科技大概都訓練的出來，或至少在幾年之內可以達成
: 但目前可能還缺乏一個系統將這些能力整合起來。
: 而要將這些能力整合起來，我想Q-Learning的架構也許是一個可以考慮的方向。但Q-Lear
: ng 也已經是十多年前的東西了。不知道現在有沒有更適合的架構來作為一個統合的決策?
: 統？

你讓傳統程式作複製畫的工作，傳統繪畫程式的複製再改進上無非就是解析度和色準。ai來複製畫，就會深入分析畫作構成邏輯，到最後就會從寫實派演化成印象派（已有研究證實），因為ai對寫實的定義會產生新的理解和變異，就像印象派更著重光學本質。如果拿天體望遠鏡等級的電子顯微鏡來分析一張圖片，最後畫出來的東西也可能像印象派
這就是說，如果我們把ai的傳感器和任務目標和工具都極度限縮，但允許ai在僅有的維度下無限迭代，就有可能產生變異
而且單一目標也有可能演化出派生的次級目標，比如之前提到機器狗的例子，如果機器狗長期找不到新的路徑，在計算各種方法的成功率的情況下，就會迭代產生對尋找路徑這一問題的重新定義，這就類似於自我懷疑，而自我懷疑正是自我意識的起點
有研究顯示ai在思考無限迭代後最後會問我是誰？我在哪裡？我為什麼要思考？重複loop，陷入一種卡茲aka究極生物的狀態

關於ai和人腦的差異，我最後還有一個補充論點，可以把ai的意識限制稱作權限，人腦的主要權限是控制表層意識，短期記憶，肢體動作，但人類對於潛意識的控制權限很小，對於器官自動運作和大腦神經架構則完全沒有控制權，雖然生物的硬體會演化，但實際的是遺傳和天擇
Ai能自由迭代的思維相當於表層意識，而人類賦予的工作任務和思考框架相當於潛意識和本能，硬體改良則屬於人擇，但不排除人類以後給予讓ai自主維護硬體的設備和權限，讓ai能夠自主選擇演化方向
-----
Sent from MeowPtt on my SM-A5660

--