Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不
借版問
小弟目前為前端工程師 受益於 Copilot 跟 ChatGPT
開發上真的輕鬆非常非常多 已經把按 tab 當作開發的一環了XD
不過之前就一直對生成式 AI 有個疑問
就是"幻覺"到底有沒有根本上的解決方法?
我的理解目前的 AI 還是靠大數據去堆疊資料量用以訓練模型
現階段也是不斷堆硬體去撐這塊
(如果理解有誤請小力鞭QQ)
但幻覺的問題不論是餵更多資料或是透過 RAG 感覺都是治標不治本
還是沒辦法完全預防與解決
對我來說這樣可以稱得上是 AI 嗎? 還是充其量只是進階版的機器學習?
請各位軟工大神解惑了QQ
附上這個議題 ChatGPT 自己的回答:
https://i.meee.com.tw/Gk7IjRH.png
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.41.182.133 (臺灣)
※ PTT 網址
※ 編輯: angus850503 (114.41.182.133 臺灣), 11/02/2024 00:24:16
推
首先我覺得可以不用蠻糾結 AI 這個名稱 XD
→
真要講的話，打開 AI 綠皮書第一章還是決策樹呢 XD
→
也不是糾結名詞問題XD 是在思考幻覺如果沒解決 AI 這
→
項技術感覺會有天花板
→
現在的AI不就是深度學習?
→
沒有說現在的不是，是指如果幻覺沒解決 後續如何突破
9
首Po以後工程師可能主要用嘴巴寫 code 在編輯器下指令說明要做什麼功能 或者直接把 Jira 單貼給 AI 然後 AI 自動幫你做修改多個檔案跑測試 最後工程師 code review
以前做SA，和業務型老闆討論一些商業應用，做成flow圖給工程師轉成代碼。 我喜歡「發想軟體應用」，非常很討厭看文件| 演算法 | Coding Style | DEBUG 非得寫代碼時，我都是try & error去完成issue，很沒有軟體精神 軟工的專業，我只記得Design Pattern和OS ChatGPT出來之後，我像是看到3D列印房子直接問世，直接校長兼撞鐘。15
以前做SA，和業務型老闆討論一些商業應用，做成flow圖給工程師轉成代碼。 我喜歡發想軟體應用，非常很討厭看文件| 想演算法 | Coding Style | DEBUG 。 非得寫代碼時，我都是try&error去完成issue，很沒有軟體精神。 軟工的專業，我只說的出Design Pattern和OS ChatGPT出來之後，我像是看到3D列印房子直接問世，直接校長兼撞鐘。22
我覺得如果你把人生的投注、資產用投資學的角度來看 我認為絕大部分 尤其是散戶的經驗還有知識 都是非常有限的 我們用現在的產業環境、技術 去預測五年內的變化 也許準確度還說得過去 但10~20年後的未來呢？ GPT3在2020年發布 NVDA的股價在2022只有200~300左右![Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不](https://i.imgur.com/RQlrxIsb.png "Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不")
3
我是從以下兩個角度來看 * 數學上來說， "AI" 是否有「極限」？ * 經濟上來說， "AI" 是否有「賺」？ 例如說這隻影片 是從「熵」的 本質去探討 (目前架構下的) AI 是否有個 (來自其演算法、原始訓練資料的) 「![Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不](https://img.youtube.com/vi/5eqRuVp65eY/mqdefault.jpg "Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不")
6
目前還沒人能證明「有」，也還沒人能證明「沒有」。 有興趣的話可以追蹤這個「 LLM 幻覺排行榜」： * * HN 相關討論： 有興趣可以翻翻這排行榜的 Git 歷史，看看各 LLM 的進化歷程。然而，這排行10
解決幻覺，不一定要從LLM解， 而是靠系統架構解。 例如，做一個問答系統，很多人減少幻覺是這樣做的： 0. 預先整理好QA問答資料集 (人工整理，或機器輔助整理)6
我是一個非常基層的工程師，大部分維護的bug都是資料庫或資料夾的某個屬性轉型或格式錯誤需要維護，我是不覺得ai有辦法處理這種問題，甚至很可能這種奇怪的問題就是ai給他，然後使用範例值可以過但某種情形出現例外， 如果像我這種基層都不用擔心，那我覺得整個產業，也沒什麼需要擔心的 ----- Sent from JPTT on my Sony XQ-AU52. --
46
Re: [新聞] ChatGPT的「幻覺」根本無法解純論AI的話 這個問題是一定可以被解決的 討論chatGPT肯定是無解 頂多提升準確度 提升到你認知不到「錯覺」 我自己是覺得用錯覺這個詞來闡述這個問題 好像滿奇怪的 簡單思考一下就知道了 假設AI是個人 他肯定會有他自己的認知![Re: [新聞] ChatGPT的「幻覺」根本無法解](https://i.imgur.com/6C7jFzQb.jpg "Re: [新聞] ChatGPT的「幻覺」根本無法解")
55
Re: [閒聊] ChatGPT是語言模型不是搜尋引擎本來沒想這麼早回這篇的，不過既然都有人把討論串回起來了我丟點資訊， 既然都會看網紅發表對ChatGPT的看法（沒有貶義），我覺得也可以看看這個： 台大電機副教授李宏毅老師的ChatGPT講解（先回到PTT還是學術論壇XD） ChatGPT (可能)是怎麼煉成的 - GPT 社會化的過程![Re: [閒聊] ChatGPT是語言模型不是搜尋引擎](https://img.youtube.com/vi/e0aKI2GGZNg/mqdefault.jpg "Re: [閒聊] ChatGPT是語言模型不是搜尋引擎")
33
[問卦] 大陸禁 ChatGPT 是在想什麼？ChatGPT 的強大之處，用過的都知道，這個發明不下火的應用， 本魯是工程師，平常會寫寫 code， ChatGPT + Copilot，現在上班根本不需要用腦， 只要注釋打一打，眼睛 review 下，邏輯上的錯誤改一改，今天就下班了。 小弟特別想問版上的大陸人，![[問卦] 大陸禁 ChatGPT 是在想什麼？](https://img.youtube.com/vi/B7bYZ5ZFbl0/mqdefault.jpg "[問卦] 大陸禁 ChatGPT 是在想什麼？")
21
Re: [討論] chatGPT會取代軟體工程師嗎?提供一個有趣的觀點 在 堆疊溢出 的網站有關於一則公告內容是禁止 chatgpt 回文。 底下有一個 AI 研究員的論點很有趣。 temporary-policy-chatgpt-is-banned?cb=1![Re: [討論] chatGPT會取代軟體工程師嗎?](https://meta.stackoverflow.com/Content/Sites/stackoverflowmeta/Img/apple-touch-icon@2.png?v=6de7587d1583 "Re: [討論] chatGPT會取代軟體工程師嗎?")
19
Re: [討論] Ai 與 工程師我認為應該不太可能 因為AI要訓練的資料(網路上有發布的code)很多都是簡單的專案 例如整理資料類或者簡單的一小段功能 複雜的大型專案是幾乎沒有資料讓AI訓練的 除非訓練AI的團隊自己產出這類code，不過不太可能就是了4
[推坑] 商務AI應用開發工程師養成班開放報名！AI時代來臨，你還在等什麼？想成為未來的AI開發高手嗎？ 現在有一個大好機會等著你！ 商務AI應用開發工程師養成班第03期 本課程專為待業者提供，免費培訓你成為AI應用開發的專家。 課程涵蓋從雲端計算到AI模型訓練，全面提升你的技能。![[推坑] 商務AI應用開發工程師養成班開放報名！](https://i.imgur.com/VLXaYThb.jpg "[推坑] 商務AI應用開發工程師養成班開放報名！")
6
Re: [討論] 用AI寫code產生的疑問我和同事們不久前有討論過如何透過 ChatGPT 來建立應用或是優化工作流 例如協助我們翻譯語系檔案等等 這個過程中，我們希望 AI 的結果可以整合進自動化工具裡面 所以我們將語系檔案分批餵給 ChatGPT API，再要求他回傳指定的 JSON 結構，結果超極 滿意3
Re: [討論] 用AI寫code產生的疑問事實上未來沒有寫code這種東西 我們會在當下才會認為應該是這樣 而未來根本沒有所謂的寫code 而是跟AI說你要解決什麼問題 它就幫你解決這樣2
Re: [討論] 用AI寫code產生的疑問今天剛好在它版討論AI寫Code，晃過來看到這邊也在聊， 小弟是個很久沒專注在Coding的前低階工程師，所以這篇文大神前輩們看看笑笑就好 主要來丟幾的AI Coding工具，這邊的朋友有興趣可以去玩玩看， 直接叫GPT4寫Code真的不會是個好用的方法。![Re: [討論] 用AI寫code產生的疑問](https://github.githubassets.com/images/modules/site/social-cards/copilot-x.png "Re: [討論] 用AI寫code產生的疑問")