PTT推薦

Re: [請益] AI到底是遇到什麼問題?

看板Stock標題Re: [請益] AI到底是遇到什麼問題?作者
derekhsu
(浪人47之華麗的天下無雙)
時間推噓35 推:35 噓:0 →:60

※ 引述《neo5277 (I am an agent of chaos)》之銘言:
: 雖然這版是投資版,但是我覺得技術問題,還是先跟投資切開來比較好一點。
技術跟應用場景的問題我不談,之前的人已經談過了,大致上沒有問題。

不同領域的人可能體驗不太一樣,但LLM普及的程度並沒有這麼低,具體而言,主要是 ChatGPT ,在部分領域已經是不可或缺的必要工具,到了掛掉會影響到正常工作或不能工作的程度。

首先是 coding,就我而言,至少有50%的程式碼已經是由 ChatGPT 完成的,遇到 bug 我幾乎沒有再用 Google 或是 stackoverflow ,log 直接丟進 ChatGPT , 大部分情況下它都能大幅減少我的工作時間。

除了遇到有關於 pydantic 的問題,因為這個 module 最近出了V2,模型的回答經常會混合V1的答案,而且傻傻分不清楚,在之前舊的沒有納入 pydantic 的版本時,這問題更為嚴重,必須要自己先提供文件用RAG 讓它知道。

但是就我實際的觀察周邊的人,發現LLM 對於低階的工程師,高階的工程師的幫助個別顯著,但是對於中階工程師而且有使用上的困難。

低階的工程師處理的是低階的問題,本來基礎就不好,LLM本身的能力就能超越這些低階工程師。

高階工程師的能精準的知道自己需要的是什麼,哪些部分可以透過LLM來做比較快,那些自己來做比較不會出錯。懂得如何 prompting ,做問題拆解,所以也能很好的利用到LLM的好處。

而中階工程師就會卡在不上不下的狀況,低階的工作可以自己處理,但是有時候要處理高階工作時不知道要怎麼問LLM,不曉得怎麼做問題拆解,不知道怎麼為 LLM 的回答加入 constraints,那LLM的回答就經常不會是自己想要的答案,甚至是會繞遠路,簡單來講,就是不會發問,因為處理高階問題時,問出正確的問題,提供正確的限制式很重要。

我舉例來說,我自己做RAG的系統,很多人問問題的方式不是在問問題,而是提供幾個關鍵字,當作搜尋引擎在用,那回答的品質當然不好,這也是為什麼 OpenAI 還要做 SearchGPT 的原因之一。

同樣的狀況,也會發生在其他會大量使用到 LLM 的領域上面,必須學術研究。

我不相信現在還有大學生研究生不用 ChatGPT 的,但是但是它肯定也是只能對高階跟低階用戶比較有用,中階用戶因為不懂得問題拆解以及提問技巧,得到的有可能是無法讓人滿意,甚至可能是抄襲出來,虛構的答案,而這些是中階用戶很難判斷的。

LLM具體應用的場景絕對已經深入到某些領域而且已經無法回頭了。

現在的問題是為了持續擴大這個領域,各家公司必須持續軍備競賽,所以成本居高不下。

使用單位大量缺乏問題拆解能力以及提問能力的人無法滲透,即便現在有透過 multiagent 的技術試圖讓LLM能自己做問題拆解,但LLM的大局觀仍遠不如人類。

其實這就有點類似圍棋之前的狀況,LLM善於最後的收官階段,卻沒有大局觀不擅長整體布局,直到 AlphaGo 出現之後達到技術突破。

AIPC是各家CPU公司試圖讓自己從NVIDIA 沒有多少投入的 To C市場突破的一個行銷方式,我仍稱這種是行銷方式是我認為 CPU + NPU 這種應用在PC上面除了拿來做指紋辨識,臉部辨識,這種通用應用以外,To C的NPU場景還沒有那種我不得不用,不用會完蛋的那種應用。

而這種應用在NVIDIA的To B場景下已經有很多了。

如果OpenAI減緩研發腳步,停止讓LLM普及化的燒錢,專注於特定領域的應用,肯定可以很快的改善獲利,問題是這不是一個可以停下來的情況,誰能達到下一個階段的突破,誰就能吃下整個市場。

所以我認為不是LLM應用場景不足,而是目前投入成本不但高,而且根本停不下來。



-----
Sent from JPTT on my Vivo V2124.

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.8.37.233 (臺灣)
PTT 網址

hansaqa 08/03 07:52認同啊,軟體從業人員已經無法不用,產出速度和品

hansaqa 08/03 07:52質都是數倍於以往。多的時間ㄏㄏㄏ

seemoon2000 08/03 07:54你說的情境 就是滿多人說的 99分的人會變得更有效率

seemoon2000 08/03 07:5430分的人會大躍進變70分 原本70分的人可能只變80分

jyhfang 08/03 07:56推 強的或更能善加利用的會更有優勢 沒跟上的人自己

jyhfang 08/03 07:57看著辦

panda816 08/03 08:08認同 現在燒錢就是在搶先做出一個適合大眾使用的模

panda816 08/03 08:08型 一旦成功所有市場都是一家獨吃

duane 08/03 08:18我看法相反欸 增加效率並不代表獲利增加

duane 08/03 08:19例如娛樂 廣告 或至於專利 因為實際上餅並不會爆發

duane 08/03 08:19性成長

duane 08/03 08:22AI真的有顯著助益反而是在專業領域 例如生技醫藥研

duane 08/03 08:22

duane 08/03 08:23比較有機會帶來突破爆發的可能性

ss218 08/03 08:24碼農效益增加對獲利沒什麼太大幫助 頂多可以多裁2個

ss218 08/03 08:24省錢

kutkin 08/03 08:32就像掃描器 鍵盤 只是減少文員的雇用

kutkin 08/03 08:33辦公室行政人力下降

neil0611 08/03 08:47創造失業率 呵呵

duane 08/03 09:08不見得提高失業率,可能比較關於個人較有益。那麼就

duane 08/03 09:08是一種服務。那麼要花多少錢買這服務而已

mdkn35 08/03 09:16原Po能否提幾個“高階”問題作為範例?

crowley 08/03 09:17chatgpt就是幫你統整網路上資料的小幫手 實際上工

crowley 08/03 09:17作的內容還是有很大一部分是需要自己發想的

Sawilliam 08/03 09:17程式設計開發 快真的很多 有些雜事的code 自己寫要

Sawilliam 08/03 09:17一兩個小時 丟給gpt 改一改 5分鐘內搞定

jayemshow 08/03 09:24有站在從業人員角度看XD 產品要能賺大錢就是要跟智

jayemshow 08/03 09:24慧型手機一樣 小到小朋友 大到阿公阿嬤都在用 你軟

jayemshow 08/03 09:24體業從業人員全地球佔比才幾%

hillgod 08/03 09:27以這篇來說AI是個工具,這工具會用的人會覺得很好

hillgod 08/03 09:27

ishdtt598 08/03 09:29我外國朋友開的軟體小公司被ai寫程式打敗了 幫QQ

Sawilliam 08/03 09:30文書處理 書信 美術 影片等也都可以處理..

zick8932511 08/03 09:32對的時間炒股

doranako 08/03 09:43目前工程師的市場成長,但其他就都還沒看到市場,

doranako 08/03 09:43其他像ai可以替代部分客服問題,就不需要那麼多客

doranako 08/03 09:43服人員

ck326 08/03 09:45公司可以多裁幾個瑪農省錢而已,嘻嘻

nikolas 08/03 09:46以前可能要花一天時間寫的程式。現在有AI,可能只

nikolas 08/03 09:46需要一個小時

paul10404 08/03 09:52你講的是ai讓工程師失業了,不是ai怎麼賺錢

CCPenis 08/03 09:57看起來AI讓部分工程師準備失業了==

baddaddy 08/03 09:57投資人的問題是你花多少錢在ai上

benson502 08/03 10:01問題是AI根本還賺不了錢,投入上千億美,連詐騙阿

benson502 08/03 10:01祖的車尾燈都看不到

js850604 08/03 10:08減少員工就是減少成本,24HR還不用勞基法不用各種

js850604 08/03 10:08員工福利,獲利大提升

Liberl 08/03 10:12降低成本這件事就是一種效益

Liberl 08/03 10:12AI還沒帶來商業模式 但降低成本是正在發生的事

japanmuta 08/03 10:15

sdbb 08/03 10:19推這篇,碼農會覺得AI好用是因碼農本身熟悉使用方式

sdbb 08/03 10:19一般人覺得AI無用,是因一般人不熟悉使用方式

sdbb 08/03 10:20覺得有潛力的,自然會去學

iamala 08/03 10:23碼農還是不要自稱工程師吧…工程師是幾百年前就有

iamala 08/03 10:23的優秀職業。

derekhsu 08/03 10:24高階問題範例:打造一個可用的ERP系統,我想建立一

derekhsu 08/03 10:24個CRM平台…

derekhsu 08/03 10:25越高階的問題越需要細部拆解成各種可以處理的子問題

aloness 08/03 10:35聽起來是苦力型的程設人員可以多砍幾個…

aloness 08/03 10:36但是成品售價不會因此拉高…?

andre9 08/03 10:38我也是

aloness 08/03 10:38對業績有幫助就兩個方向,一是創造高利潤產品,一

aloness 08/03 10:38是降售價但大量銷售,這能做到哪個?

neomaster 08/03 10:41我文組 試用chatgpt 似乎是把網路上有的資料加以整

neomaster 08/03 10:41合 我比較把它看成是一個有整理的資料庫

neomaster 08/03 10:41平常人可以拿來查一些資料是很好用 但如果是學生/

neomaster 08/03 10:41研究員使用也好用嗎 機器給你是整合好的資料 至於

neomaster 08/03 10:41來龍去脈都不清楚 不會有心虛的感覺嗎

sdbb 08/03 10:45AI的用途不是只有chatgpt

lolpklol097508/03 10:57https://i.imgur.com/hkos4GY.jpeg

derekhsu 08/03 11:27研究員當然也很好用,因為他們問問題絕對跟菜鳥不一

derekhsu 08/03 11:27

huabandd 08/03 11:28大家都想搶這塊餅自然競賽很兇

dslite 08/03 11:29跟你老闆講 薪水付一半給你就好

huabandd 08/03 11:29搶得兇就算了,問題是老黃晶片更新有夠快

huabandd 08/03 11:29不更新又怕追不上,於是更燒錢

aloness 08/03 11:38重演.com時代的困境

louner 08/03 11:55想不到會在股版看到pydantic 我也被這鬼東西搞過好

louner 08/03 11:55幾次

unima 08/03 12:20沒AI幣!算心酸的。

derekhsu 08/03 12:21v1 v2不相容超靠北 但最慘的是 FastAPI 新版依賴v2

bojan0701 08/03 12:25應該能造成降價,因為工程師可少聘,但工程師占成

bojan0701 08/03 12:25本比例低,難大量降價。期待看到其他領域AI有大突

bojan0701 08/03 12:25破...認識兩個頂博做AI開發應用 東西差異大 一般人

bojan0701 08/03 12:25要駕馭這工具 可能沒這麼容易。

neo5277 08/03 13:05但是我們終究是少數人,不管事chatgpt或是gitcopilt

neo5277 08/03 13:07用爽爽,佔他現金流就是只有一點點,基金會或是2B

neo5277 08/03 13:08訂閱,就像買office或是IDE訂閱那樣不會有大的

neo5277 08/03 13:09繼續發展我是100%贊成,我不知道股東跟董事CEO

neo5277 08/03 13:09挺不挺得住~~

RIVERSHAKE 08/03 13:51程式寫得好要飯要到老 這是以前戲謔的順口溜

RIVERSHAKE 08/03 13:51把寫程式的過程變得更有效率 稱不上突破性的應用

mdkn35 08/03 14:46如果你說的高階是指管理階層 LLM給一個預設值的框架

mdkn35 08/03 14:46那確實是 但發生問題或要改新東西 管理階層肯定完蛋

derekhsu 08/03 15:46高階問題是概念性問題需要細部拆解的問題