PTT推薦

Re: [討論] 用AI寫code產生的疑問

看板Soft_Job標題Re: [討論] 用AI寫code產生的疑問作者
oopFoo
(3d)
時間推噓18 推:21 噓:3 →:35

※ 引述《Suleika (Suleika)》之銘言:
: 相信對新技術具有敏銳度的各位,
: 在這幾個月都有使用過AI來幫忙寫code,
: 但在使用過程中不經有一個問題一直迴盪在我的腦海中:
: 「AI幫我快速生成一個feature的模板,
: 我在修改的過程中就像在做code review,
: 公司還需要找初階工程師嗎?」
: 不曉得各位高手們是怎麼看待這個問題的?

https://news.ycombinator.com/item?id=35316526
這篇展示ChatGPT的威力與限制。

他問Bing如何raycast一個有displacement map的geometry.

原po問到最後,答案是不可能或給錯誤的程式。

下面有人回答他把原po的問提去問ChatGPT4,說得到很好的解決。
https://pastebin.com/PPy4vMrU

-----------------------------------------------------------
程式不錯,看來有解決,但其實不然。Displacement map是"per pixel"的效果,你用"per vertex"來運算是毫無意義。

這題一開始的假設就錯了。"per pixel"只能在gpu裡運算,想在cpu raycast "per pixel"的效果,黑人?.jpg

這也是目前LLMs的問題,它其實邏輯能力不行,但有龐大的知識。如果你問的問題不在知識裡?那就是盲人帶領盲人走入死巷。

以前我讀過一段很有道理的話。Programmer’s job is NOT to write code; Programmer’s job is to solve problems。結果現在一堆人一直在寫CRUD

現在AI寫code的風潮,其實是軟體工程的失敗。我們一直在強調DRY,REUSE.....結果現在用AI來重複生成同樣的程式碼,覺得比較有效率?

在某方面這是這是20多年來軟體發展大倒退的結果。以前HyperCard,VB,GUI Builder,4GL把非程式師帶進來開發軟體,軟體元件一副要起飛的樣子。結果現在Web Component有人知道?有人用嗎?

我目前不擔心AI寫code,現在看來只會製造更多智障問題需要更多的程式人員解決。

如果哪天AI真能取代人類,沒工作不是我們需要考慮的問題。

我覺得LLMs很棒,有很多應用用途。但.....

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.130.220 (臺灣)
PTT 網址

vi00024603/29 10:54很棒啊 讓AI產生垃圾 再讓工程師收爛攤

vi00024603/29 10:54讓大家知道AI不能取代工程師

loadingN03/29 10:57確實 web仔只會CRUD才在擔心這個

ab4daa03/29 11:04太好了 以後有更多bug可以解

Confusa03/29 11:41今天問的是通用AI才是這個結果,未來一定會有專門寫各種

Confusa03/29 11:41 code訓練有素的AI出現

oopFoo03/29 12:13自駕還需要幾年?LLMs離真正理解code還要幾年?LLMs為何無

oopFoo03/29 12:13法解決"幻想"問題?真正能code的AI還很遙遠。

oopFoo03/29 12:15我覺得LLMs很好用,但現在寫code,代替search,方向錯了

Beersheep03/29 12:29喜歡你對 reuse/dry 那段下的論點

ededws103/29 12:31路上很多餐飲店,並不是每間都要有飯店廚師的能力

ededws103/29 12:33寫軟體需求越來越大,當然只能多找一些堪用的人才

tennyleaz03/29 12:49確實

f2672430903/29 14:38推盲人帶盲人進死巷 詠唱咒文念對很重要

nfsong03/29 15:05你把這篇餵給chatGTP. 他就又進化了

nfsong03/29 15:05來個人餵公子吃....

KanzakiHAria03/29 16:41喔 那一堆文組已經用AI在coding做產品的是平行世界?

hidog03/29 17:34樓上方便介紹個由ai開發完成的專案嗎

Firstshadow03/29 17:47樓樓上指的是chatbot嗎 蛤 o’_’o

viper970903/29 17:48推這篇

qwe7897103/29 20:20哪個產品是AI做的 讓我看看

frrr03/29 21:51AI確實很難解決一點點需要邏輯的問題

GTRNO103/30 02:46嗯…你應該不太懂 你先把Open-Ended Learning Leads to Ge

GTRNO103/30 02:46nerally Capable Agents這篇看懂 再來討論AI能不能寫code

marsantony03/30 09:22AI目前無法保證百分百正確,提供思路與框架方便而已

marsantony03/30 09:23如果真的有沒有人工review的AI專案,我也想看看

testPtt03/30 10:00用來代替搜尋引擎感覺還不錯

realbout03/30 10:21AI不是用來解決問題?那大家對AI的期望是?

OnlyRD03/30 12:37不會啊,AI可以生成片段的程式,而且風格近似,光

OnlyRD03/30 12:37是這樣就減少很

OnlyRD03/30 12:37多打字跟review的功夫。

strlen03/30 14:21軟體工程的失敗?你說失敗就失敗?你誰阿你?

strlen03/30 14:22DRY大家都有在做好嗎?重點不是DRY這觀念 重點是DRY要切割

strlen03/30 14:22到多細小 共用模組要怎麼切 這是永遠沒有一個銀彈的問題

strlen03/30 14:23你仔細去想想為什麼會有重複的code 不是因為大家想重複好

strlen03/30 14:23嗎?是因為真實世界的需求就是有無窮多種

strlen03/30 14:24你模組切太大塊 就沒辦法應付多樣化的需求 切太小 又是跟

strlen03/30 14:24沒切一樣 這你要怎麼解決?講那麼多 終究還是要回歸需求面

strlen03/30 14:25這完全跟什麼邏輯一點關係也沒有 也跟CRUD一點關係也沒有

strlen03/30 14:26今天還是有大量CRUD碼農 就是因為實務端需求面太多樣化了

strlen03/30 14:27跟效率也沒任何關聯 整篇完全不知所云 大概是雲工程師吧

GTRNO103/30 23:09看起來就是學店畢業+小公司的工程師心得感想

hidog03/31 07:05上面幾樓貶低別人學經歷的做法還蠻糟糕的

pedestrianA03/31 12:32這跟搜尋引擎不同東西 沒有誰代替誰

darkMood03/31 12:58目前不就是快速剪貼簿而已,一堆人一直吹屁啊

oopFoo03/31 17:40現在的LLMs比較像"群體的智慧"。會是一個很好的另一個意見

oopFoo03/31 17:42但太多的"幻想",對不熟練的人,反而有害。

acenova04/01 00:55國外論壇有看到在ML跟AI領域深耕多年的工程師,寫道目前

acenova04/01 00:55OpenAI釋出的版本還是弱化版本的,而且他也不曉得為什麼

acenova04/01 00:57OpenAI要去弱化這塊,他說現在的AI已經完全可以做到解決

acenova04/01 00:58問題這一段了,也許我們過段時間就能看到他說的那個版本

oopFoo04/01 11:17OpenAI是一直在持續訓練Model,東西會更強。LLMs有很多

oopFoo04/01 11:19意想不到的功能,如有點邏輯,有點會算術。但這條路是有

oopFoo04/01 11:23極限的。像Llama好像有特地訓練算術的部份,就表現比GPT3

oopFoo04/01 11:25好。但知識是無限的,現在這種訓練方式能達到AGI嗎?我是

oopFoo04/01 11:26持保留態度。就像自駕碰到瓶頸一樣,LLMs需要更多的研究與

oopFoo04/01 11:30發展。就目前而言LLMs是很有用的。但問錯方向,給垃圾答案

oopFoo04/01 11:31是很大的問題與研究課題。