Re: [心得] 蘋果揭露人工智能並不思考

DarkerDuck 發表於 2025/6/16 下午1:16:44

看板Stock標題Re: [心得] 蘋果揭露人工智能並不思考作者

DarkerDuck

(達克鴨)時間Jun 16 13:16:44 2025推噓12 推:12 噓:0 →:19

PTT推薦

首先啦，在公眾對於AI發展的看法，有個很有趣的現象。

就是只要AI會做了某件任務，就會直接說，這不需要"思考"。

譬如AI在二十幾年前打敗西洋棋棋王，後來華生也打敗益智節目的人類冠軍。

人們直覺反應就是這不是思考啦，西洋棋就是暴力算棋譜，益智節目背題庫就好啦。

到了十年前還有人認為AI永遠不可能擊敗人類棋王，因為圍棋不是硬靠算力可以暴力解的。

還需要人的模式辨認與推理能力，而AI不會。

結果嘛，現在變成幾乎每個棋手都要靠AI訓練，還要尊稱AI為老師。

到現在LLM文字接龍因為量變產生質變，開始湧現出各種當初想不到的能力。

譬如翻譯、寫故事、甚至是更高階看起來需要推理的寫程式、在各種限制下規劃行程。

那現在的AI真可以直接說他不會思考thinking嗎？

心理學家把人類的thinking歸類為兩大系統(快思慢想)

系統一(快思): 不需要意識控制，常靠經驗與啟發法（heuristics），
例如九九乘法表的乘法計算、開車時的習慣反應。
通常都是直覺、快速、自動化的"快思"任務。

系統二(慢想): 需要意識控制，用來做邏輯推理、計算、分析與抉擇，
例如解數學方程式或做財務規劃。
通常是需要邏輯、緩慢、且偏代理型的"慢想"任務。

目前LLM這系列的AI湧現出來的能力大都是系統一的快思任務，所以AI當然會thinking。

配合了一些CoT等後訓練技術甚至可以湧現出一些些系統二慢想的任務。

但我猜還是有極限啦，像是要有意識的知道自己搞錯了就需要系統二的能力。

因此LLM常常被人認為是一本正經的胡說八道。

又或者一些代理agent任務，就極需要系統二的規劃能力，

現在的LLM就算使用推理模式，也會因為token預算不足而無法長時間執行。

像是蘋果這篇論文反而展示了LLM會思考的一面，他有許多問題都過於困難。

思考token預算不足，當然就直接放棄，但這不代表AI不會thinking。

只是AI目前的確很難處理非常大的問題，需要新的思考預算控制模式。

這也就是現在AI領域積極想要突破的agent領域。

Apple Intelligence之前Siri就已經很多agent類型任務的展示，也難怪一直生不出來。

連最近推出的通用型agent Manus都做不好了，慢人百步以上的Apple怎麼弄得好？

像是Meta的YanneCun就一直認為現在的LLM是弄不出AGI的，而是需要導入新的世界模型。

假如真的要能讓AI長期執行agent類型等系統二慢想任務，以及機器人能夠長期自主運作。

那這些AI的內心必須錨定一個世界模型，知道自己在這個世界中的狀態與定位。

才能夠調和自己的任務需求與外部的總總限制，而不是卡在死胡同裡。

而且能夠整合自己的工具與感官不斷地調整權重去做學習。

這些都是目前AI都還很欠缺的。若無法突破就很難達成人類等級的AGI。

而這方面能突破，那真的就可以期待AI能直接"取代"人力，達到新的工業革命。

※ PTT留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.121.186.56 (臺灣)

※ PTT 網址

※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:18:07 ※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:19:50

推

sdbb 06/16 13:18台肯

推

webster1112 06/16 13:21圖靈是神的地方在圖靈測試，不跟你廢話五四三的！

→

haha98 06/16 13:22實際上lecun一直在吹的世界模型很多人也在搞目前

→

haha98 06/16 13:22李飛飛的公司和Google 的demo我覺得不錯倒是lecun

→

haha98 06/16 13:22 自己的V-JEPA2 沒啥驚艷

→

webster1112 06/16 13:23我們要先定義思考？？耍嘴皮

推

Samurai 06/16 13:26當然要先定義思考，這很重要的

推

abccbaandy 06/16 13:31但現在AI確實很容易鬼打牆+唬爛講了也不聽

→

DarkerDuck 06/16 13:33因為糾錯與重新規劃算是系統二的能力

→

DarkerDuck 06/16 13:33我用AI寫程式也是一樣，debug非常困難

※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:42:00

推

seemoon2000 06/16 13:45其實普通人的思考也比不上LLM系統的直出回答...

→

seemoon2000 06/16 13:45想不到這個非常小的題目竟然可以討論這麼多篇...

→

DarkerDuck 06/16 13:46是啊，所以我覺得讓外星人來評估思考能力

→

DarkerDuck 06/16 13:47大部分的人類群體會被歸類成不會思考的....

→

DarkerDuck 06/16 13:47像是幣圈就被玩成蠢幣進化論，真是笑死外星人

※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:47:58

推

capssan 06/16 13:48你說的其實就是我一直以來對這件事情的認知

→

capssan 06/16 13:49的確就是快思慢想的概念

推

bamama56 06/16 13:49快思慢想我熟一個靠老公亂翻的

→

haha98 06/16 13:55你用啥寫啊我用sonnet 配cursor debug 蠻強的

→

haha98 06/16 13:56我現在已經不能沒有他們

→

KuRaZuHa 06/16 13:58靠老公接案靠學生亂翻就唬蘭啊

→

DarkerDuck 06/16 14:00現在除非公司規定，不然應該沒有程式設計師不用AI了

→

FatFatQQ 06/16 14:01先定義人類思考是什麼

→

DarkerDuck 06/16 14:03一些執行期才會發生的非重現bug還是要自己trace就是

→

DarkerDuck 06/16 14:04還有那種元件耦合性錯誤，AI也很難跨那麼遠去抓

推

ProTrader 06/16 14:05新或再優化的AI模型肯定很多研究者投入

※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 14:37:30 ※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 14:44:42

推

mdkn35 06/16 15:06當初Manus不是炒超大的帳號能賣好價錢結果ㄏㄏ喔?

推

NoMomoNoLife06/16 15:06是的如haha98所言，其他路線也有人在研究了。

推

traz04067 06/16 17:45我們需要重新定義蘋果AI的思考

推

qqpbpp 06/17 00:58ai現在做不到的是後設認知，直接跳脫內容，回到互動

→

qqpbpp 06/17 00:58本身來思考

同系列文章

[心得] 蘋果揭露人工智能並不思考

其他人也閱讀了

PTT 熱門相關