Re: [心得] 蘋果揭露人工智能並不思考

aegis43210 06/16 02:09人類的建立規則是靠五感的回饋機制不斷修正而來，但

aegis43210 06/16 02:09LLM只能靠文字

eric878787 06/16 02:12目前AI只負責生成，不負責對錯

qwe78971 06/16 02:15LLM 講白 只是接受很多數據 然後連連看 哪個規律最

qwe78971 06/16 02:15高 最匹配就用哪個 不是真正 thinking 根本不是AG

qwe78971 06/16 02:15I的方向 一旦碰到的東西沒這數據 就當機了 沒有學

qwe78971 06/16 02:15習及糾錯能力 跟人腦差距還是太大

haha98 06/16 02:24我比較認同Ilya的看法 目前的LLM甚至 MLLM只是一種

haha98 06/16 02:25基於語意的壓縮世界模型 離真正的世界模型還差的遠

fajita 06/16 03:09目前的模型，等老黃賣到G2兆時看能不能突破

abc12812 06/16 03:20alphago下棋就沒這種問題

edward0811 06/16 03:46生成式AI就大騙局，非人類進步方向

s0914714 06/16 03:55生成式AI的概念可能只是人類思考的一部分而已

bobogei8112306/16 04:55講的好像別人跟你說一句話 你是先拆成主詞 受詞...

bobogei8112306/16 04:55再去理解分析的

ripple0129 06/16 05:21其實大量的迴歸與收斂，最後答案都會越來越正確，

ripple0129 06/16 05:21只是在於有沒有人校正什麼是錯誤什麼是正確。AI本

ripple0129 06/16 05:21來就不應該完全與人類相同的思考模式發展，否則就

ripple0129 06/16 05:21不可控了。讓AI限縮在LLM的極致與正確性，或許對人

ripple0129 06/16 05:21類是一種安全的選擇。

guanting886 06/16 06:04短時間內LLM還是要依賴Scale AI這類公司做資料清洗

guanting886 06/16 06:04、修正跟媒合血汗打工仔幫忙打標籤 沒有工人智慧就

guanting886 06/16 06:04沒有你現在看到的人工智慧

guanting886 06/16 06:08目前人們要的就是想要一個酷東西 他們才不會在乎後

guanting886 06/16 06:08面到底是統計模型 還是真的會推理 包括整個行業可

guanting886 06/16 06:08能也不想戳這個東西的真相

guanting886 06/16 06:15蘋果的論文可惜的是他發表的時間讓他們很尷尬 只有

guanting886 06/16 06:15被討罵的份而已

guanting886 06/16 06:18現在的Ai被包裝的很好 會有讓用戶認為他們是全能的

guanting886 06/16 06:18 但可能要小心其實會錯大 包括整理資料跟分析講結

guanting886 06/16 06:18論

guanting886 06/16 06:20用戶事後都要去驗證 但新的問題又來了 當你習慣什

guanting886 06/16 06:20麼東西的丟給這樣的模型去幫你做整理 你要核實數字

guanting886 06/16 06:20的難度就會變高

guanting886 06/16 06:21因為藉由Ai你獲得了一個極佳的槓桿 你甚至可以一次

guanting886 06/16 06:21做的工作量變得以往多好幾倍

guanting886 06/16 06:23但也丟出很大的工作量給Ai 你無法有限的時間核實A

guanting886 06/16 06:23i給你說的數據是否正確 最後你會鬼遮眼選擇忽略會

guanting886 06/16 06:23發生這個問題的事實

guanting886 06/16 06:30（之前拿某個模型來分析資料 看了模型在推理過程直

guanting886 06/16 06:30到他崩潰/幻覺，不難想像如果這樣的東西要在蘋果手

guanting886 06/16 06:30機上，我看某個用戶可能因為某個原因發生嚴重問題

guanting886 06/16 06:30我看集體訴訟就來了

ewayne 06/16 06:3714樓，不然呢？還是你以為你可以在主詞受詞動詞都搞

ewayne 06/16 06:37不清楚的狀態下就能理解一個句子？

dildoe 06/16 06:39隨便問個簡單問題都略過萬數量詞了XD

pujos 06/16 06:54@24樓，你可以藉由他有十倍百倍工作量，但你沒有十

pujos 06/16 06:54倍、百倍的驗證能量，所以錯誤就成了必然

pujos 06/16 06:55你還沒能力預防、控制這個“錯”，會不會出在什麼巨

pujos 06/16 06:55大的地方

NTUT56 06/16 07:05看起來背後就一堆線性代書運算

NTUT56 06/16 07:05所以線代真的超重要的，從來不會退流行

bobogei8112306/16 07:196歲小孩根本沒聽過主詞受詞這些概念 還不是聽得懂人

bobogei8112306/16 07:19話

NTUT56 06/16 07:20人家有爸媽天天跟他練英文，你有嗎

NTUT56 06/16 07:20而且美國的小孩一樣要上英文課

chang1248w 06/16 07:34現在token embedding dim不是2048起跳嗎= =

zero00072 06/16 07:36有點概念了，有點像人類識別顏色座標，相近的顏色座

zero00072 06/16 07:36標相近；但是色弱的座標相對狹窄。

mdkn35 06/16 07:37詞性只是能更複雜地形容精確的狀態 不然只有名詞也

mdkn35 06/16 07:37是能描述

kobebrian 06/16 07:39這篇描繪的算蠻深入淺出

xephon 06/16 07:44沒辦法很多猴子覺得AI會思考人類要毀滅了

Samurai 06/16 07:51這篇很專業了，LLM基礎就是模糊性，才適用語言交流

Samurai 06/16 07:51，拿來算數學容易錯誤

pujos 06/16 07:54不是算數學容易錯，而是這玩意容易驗證，對就對、錯

pujos 06/16 07:54就錯，生成其他文本類，錯了你也看不出來

pujos 06/16 07:55實際上它的架構、答案生成方式，就決定他做什麼都是

pujos 06/16 07:55容易出錯

prmotolprlin06/16 08:09專業推 讚讚

jorden 06/16 08:14AI弄個網格交易工具可以 要玩期貨可能有難度

gold9450412 06/16 08:24我喜歡台大教授李宏毅的說法 大家都說AI只是找機率

gold9450412 06/16 08:24最大的排列組合成句子 不是思考

gold9450412 06/16 08:24但人類大腦何嘗不是這樣操作 同樣是計算出最有可能

gold9450412 06/16 08:24的答案

ohlong 06/16 08:27LLM只是像大腦裡面掌管語言的區塊 模仿的功能跟字

ohlong 06/16 08:27彙更強一點 我們也是從小透過學習文法跟單字可以拼

ohlong 06/16 08:27湊出語意暢通的句子 LLM就像模仿片語的巨量化 而觀

ohlong 06/16 08:27察小朋友還牙牙學語時 早就有思考邏輯能力了 AGM真

ohlong 06/16 08:27的還早

horseorange 06/16 08:28推

kkking 06/16 08:32台灣填鴨教育教出來的也沒好多少

Homeparty 06/16 08:44寫代碼跟畫圖好用，因為是人類創造有邏輯規則。但

Homeparty 06/16 08:44無法普及現實世界，因為現實轉換向量過於複雜。

Samurai 06/16 08:46AI思考方式就跟人腦一樣，至於容不容易出錯，很難

Samurai 06/16 08:46定義，現在讓AI寫考卷，已經贏一大票學生了

a1379 06/16 08:48推這篇 現在的AI跟人們幻想的AI根本是兩回事

dearevan 06/16 08:53推

vovovolibear06/16 09:03長知識了

kyukyu 06/16 09:08謝謝分享

etrangere 06/16 09:14我猜那個推理也是偵測到關鍵字call function而已xD

a1234567289 06/16 09:16推本篇

ProTrader 06/16 09:17對於AI與機器學習來說自有資訊分析與呈現的方式

ProTrader 06/16 09:18目前模型跟人類真正的資訊分析呈現方式並不相同

ProTrader 06/16 09:19LLM只是盡可能讓結果與人類語言類似

steven96130206/16 09:20好文

ProTrader 06/16 09:21這些模型分析追求的是最大可能性 並不能保證正確

ProTrader 06/16 09:23從google搜尋的角度來看 這是更好用的智慧型搜尋

ProTrader 06/16 09:24然而 這還不是有可靠度的任務代理人

Sinreigensou06/16 09:27推 所以大型語言模型才有幻覺問題

Sinreigensou06/16 09:27所以我搜尋東西還是盡可能用傳統搜尋引擎

fan415 06/16 09:34不管你說的對不對，人家已經打趴9成人類的工作，該

fan415 06/16 09:34慶幸機器不能像牛馬一樣負責任扛包，不然哪還有工

fan415 06/16 09:34作給你做

addy7533967 06/16 09:36線代...死去的記憶在攻擊我

ARTORIA 06/16 09:409成...要吹也別這麼誇張 連大部分低端工作都還不能

ARTORIA 06/16 09:41做你跟我說9成

takase 06/16 09:41所以需要對齊啊

strlen 06/16 09:46其實我忘了在哪個地方看過 底層是靠機率在排出答案

strlen 06/16 09:47的這個模式 並不一定是錯的喔 想想看 這世界基本是

strlen 06/16 09:47量子力學所組成的 量子力學本身就有隨機性

strlen 06/16 09:47所以代表這個世界的基礎 其實也是建立在機率之上

strlen 06/16 09:48那為什麼量子能達到現在這樣「看似」普通的穩定態？

strlen 06/16 09:49答案就在量子的規模 夠巨大 隨機性被降到極低 就沒

strlen 06/16 09:50事惹 這也是為何奧本海默團隊有人就計算到 核彈是有

strlen 06/16 09:50機率燒掉整個大氣層 連鎖反應停不下來 但很低而已

strlen 06/16 09:50LLM用機率當底層也沒什麼關係吧？出錯的機率夠低就

strlen 06/16 09:51好了 簡單說 方向就是把算力當量子 他X加爆就對了

moonlovemai 06/16 09:55蘋果的不行不代表別人的也不行

liliumeow 06/16 09:56人腦可能就是這樣思考的

pmes9866 06/16 10:00人類大腦的預測能力屌打LLM

uller 06/16 10:09LLM確實是統計機率並不會思考，但這就必經的路，不

uller 06/16 10:09是說，這沒用，我不要研究。那你蘋果乖乖滾下去吧

hank850503 06/16 10:23如果智慧的本質就是這樣呢？

hank850503 06/16 10:23LLM 現在辦到的就是我家鸚鵡會的

dream1124 06/16 10:40推解釋

VicLien 06/16 11:02社群媒體狂洗某隻股票利多 就是一堆人會去買 誰說A

VicLien 06/16 11:02I不如人 AI插電就學習 串越多學越快 取代5成人類

VicLien 06/16 11:02認知很難嗎

AlarmAlarm 06/16 11:07用這麼久AI 要由人判斷正確不是很明顯嗎 一堆說專

AlarmAlarm 06/16 11:07業要被取代就覺得好笑 講這種話的AI都沒用過幾次吧

axz123999 06/16 11:48推推

aloness 06/16 12:13驗證這個狀況只適合擁有專業的人來執行，對外行人

aloness 06/16 12:13來講，不論是透過ai給答案，還是自己翻書湊答案，

aloness 06/16 12:13無法保證兩邊都能對，此時ai因為被問過同樣類型的

aloness 06/16 12:13問題次數多，ai的答案方向或許還比自力學習來的可

aloness 06/16 12:13靠

aloness 06/16 12:15ai並不是在創造解答，但一般人遇到的問題多半都是

aloness 06/16 12:15另一個人每月每年都在處理的，ai只是在各領域吸收

aloness 06/16 12:15每月每年都在處理的例行公事，回答提問人

Tatsuya72 06/16 12:44標籤這件事就代表工人智慧

Tatsuya72 06/16 12:46靠吹AI欺世盜名撈錢的共犯結構沒那麼容易放棄

Tatsuya72 06/16 12:47加上戰爭的因素，給了他們能最大化剝削資源的機會

Tatsuya72 06/16 12:48操弄恐懼

Tatsuya72 06/16 12:49如一年前提過，過度投資的泡沫會比想像中更快到來

guanting886 06/16 12:52長期使用下來的心得：只利用他的統計特性減少我找

guanting886 06/16 12:52尋某一種全新知識的時間 至於他能不能直接解決問題

guanting886 06/16 12:52 通常 不能

guanting886 06/16 12:55就連詐騙集團都認爲LLM做翻譯 裡面的文法都不一定

guanting886 06/16 12:55是常用或合理的

guanting886 06/16 12:58數值運算證明了 只要他不call python來算，他的回

guanting886 06/16 12:59答是基於數據裡面某一種類別的資料的解題過程來湊

guanting886 06/16 12:59答案 就好比一個沒唸書的學生為了應付考試 題目什

guanting886 06/16 12:59麼他就到處看書的東湊西湊只求這題能寫點什麼

guanting886 06/16 13:00他的狀況很像阿里巴巴全球數學競賽醜聞 那位被老師

guanting886 06/16 13:00當分身帳號使的少女

guanting886 06/16 13:02她根本無法解題 只是受老師指示抄給她的答案送上去

guanting886 06/16 13:02 要她真的理解根本不能 因為她連某些公式符號是什

guanting886 06/16 13:02麼都不知道

guanting886 06/16 13:03寫程式碼這件事只能說更離譜 因為特性的關係 程式

guanting886 06/16 13:03碼都是掰的（LLM特性）

guanting886 06/16 13:04就好比你在stackoverflow發起一個問題 結果回答你

guanting886 06/16 13:04的人 解決方案都是想像出來的 他也跑過

guanting886 06/16 13:08也沒跑過 （這個部分大概要解決 只能要讓ai想程式

guanting886 06/16 13:08 碼的時候 要同步出你的環境條件 藉由不間斷的試錯

guanting886 06/16 13:08他可能才勉強真的驗證過回答是正確的

guanting886 06/16 13:09但實現上困難 簡單環境可以 複雜一點他的運算資源

guanting886 06/16 13:09會反向被濫用或DDoS別人

Samurai 06/16 13:09人思考過程也是一樣啊，根據學習經歷去找出能解決

Samurai 06/16 13:09問題的方法，只是目前模型沒這麼全能

guanting886 06/16 13:11目前LLM是能解決某些問題 但是他的一開始的架構就

guanting886 06/16 13:11已經決定他的極限在哪

guanting886 06/16 13:11人類學習過程會試錯 得到經驗

guanting886 06/16 13:12LLM是抄題仔 他的答案是沒有被驗證過的

Samurai 06/16 13:12模型學習本質就是試錯得到經驗，也一樣

Samurai 06/16 13:13另外模型訓練過程，資料會分成驗證組，不是沒驗證

guanting886 06/16 13:13如果他要為他的答案負責 大多數你大概會寧可關掉視

guanting886 06/16 13:13窗 因為非常慢 運氣好他陷入幻覺你要的答案根本你

guanting886 06/16 13:13等不到

guanting886 06/16 13:14為什麼Scale Ai這間公司很重要 因為數據來源跟有沒

guanting886 06/16 13:14有做好整理就大多決定了模型的能力

guanting886 06/16 13:16我認為現在研究團隊應該就是趁這個時間在熱度的高

guanting886 06/16 13:16峰 拿到投資人的錢看能不能解決LLM的真實痛點

Samurai 06/16 13:16人也是一樣啊，唸了國文課本但去考數學一樣爆炸XD

guanting886 06/16 13:17在這之前大家都會盡可能拖就拖

guanting886 06/16 13:18嗯。～我只想表達LLM真的離通用Ai真的蠻遠的 但也

guanting886 06/16 13:18因為這個東西的誕生 人們之間的資訊落差 的確有改

guanting886 06/16 13:18善

jodawa 06/16 13:19推

rickyiu 06/16 13:25推

johnlin35 06/16 13:46推

KrisNYC 06/16 14:24問題是現在有一個軍備競賽強迫一大部分的資源錯置

KrisNYC 06/16 14:25這個方向並沒有錯 只是單用這個方法走不到終點而已

chenyei 06/16 15:05你的中文很不通順，外國人？

ctes940008 06/16 15:14對答案

lavign 06/16 17:31語言是離散的有限的，真實世界是連續的無限的

lavign 06/16 17:36數位資料的離散性就注定AI永遠不能真的思考

hanhsiangmax06/17 01:59推

jiusishuai 06/17 07:32推推