Re: [討論] chatGPT會取代軟體工程師嗎?
提供一個有趣的觀點
在 堆疊溢出 的網站有關於一則公告內容是禁止 chatgpt 回文。
底下有一個 AI 研究員的論點很有趣。
https://meta.stackoverflow.com/questions/421831/
temporary-policy-chatgpt-is-banned?cb=1
有意願看英文詳細的可以直接搜尋TL;DR，第三個就是了。
我這邊簡單敘述大意
stackoverflow 應該禁止所有 AI 回文，因為 chatgpt 是基於 stackoverflow 上
訓練的，如果 stackoverflow 不禁止會導致無法訓練 2022 年以後的 AI，
因為 AI 無法分辨訓練資料這是 AI 回文還是人類回文，會導致 Circular reasoning。
這意味著 AI 還是是需要真正人類的資料去訓練，如果不訓練就無法進步。
除非你的公司有 FAANG 一樣大，不然我不認為可以訓練出足夠強大的 offline
chatgpt。
我覺得這個論點很有趣的地方在於，實務上你是無法禁止AI回文的，也就是說 AI 訓練
會出現一個死胡同，越強的語言模型會被濫用的越嚴重，最終會有一個上限。
我大概可以猜測為何使用 stackoverflow 訓練，因為有問題有答案，答案還
大部分都有標準解答，跟 chatgpt 與你聊天的模式有點像。
簡單來說你想用 chatgpt 解決工程師就會有雞生蛋，蛋生雞的問題。
你開除工程師，就沒訓練資料可用，沒訓練資料可用的 chatgpt 就不能產生 code
最終還是要請工程師開發。
--
酷
很有意思的觀點
可以換個角度，能被AI回答的問題，本身就屬於 已解決
/爛問題 ，比起禁止AI回答，不如說是禁止能被AI輕易
解答的問題發文，像是Quora好像就有導入相關使用
禁的原因是因為錯誤率太高但是回答品質又高。我在revie
w 的時候都會覺得是高品質的回答但答案卻是錯的
而且那種code 會有人覺得寫的很好，但其實在很多情況下
會出bug
簡單來說 AI回文可能導致從自己身上學習
使得既有的錯誤被強化這樣？
AI自己污染了訓練資料
不認同 因為最後答案還是人去標的 如果ai回錯了就不
會被當成訓練資料
所以閉源好 自己寫的又跟別人寫的很不一樣
黑魔法就是讚
讚，這表示工程師的思路才是真正有價值的地方
所以標仔也得是個高手，不然難一點的問題你連判斷他
對不對都沒辦法
挑點讚率高的答案就好啦，哪需要人肉標
就是訓練時拿已經被AI標過的資料再回去餵AI，或是兩套AI戶
餵資料，就會發生各種神奇現象。
不會啊，因為2022後又不是只有chatgpt回文
還是會有真人回
拿奇摩知識+的資料訓練不知道會走鐘成什麼樣子
有趣的切入點 學習了
再訓練新的AI來判斷是AI回文或是人類回文不就好了
6樓才是對的
就是ai 還不夠強大啊，似懂非懂要怎麼用
跟死胡同是不同的兩個問題
比較好的做法確實是挑打勾的答案，目前這個結論是推測 chatgpt 沒有這樣做。 至於不這樣做的原因不知道，我猜是因為要更多訓練資料吧。 因為這個是語言模型，不是 coding ai。
※ 編輯: y2468101216 (1.171.133.82 臺灣), 03/08/2023 10:13:52如果ChatGPT的相關數據是出於StackOverflow的話，那麼，
StackOverflow應該有權要求ChatGPT付費。
chatGPT就很適合用在產ptt廢文 頭頭是道但內容錯誤
說的真好
chatgpt商用的話 有權要他支付授權費用的單位會多到爆...
相較於圖文創作和數據 code可能反而還好
取代版上廢文應該是沒問題了，至少還頭頭是道
有趣的文章！
簡單理解一下gpt原理就知道為什麼他不這麼做
他根本不理解自己在輸出什麼
我還以為這是常識耶，本壘就不可能取代工程師，不然誰產生
資料…。取代的是搜尋參考資料的時間而已。取代的是Google
搜尋的使用次數而已。
被取代的是google！？
是啊 谷歌都快哭了
原來是這樣
推
對耶
非監督跟reinforcement的模式不會有這個問題
只要他的目標是code能滿足功能 加上可讀性維護性optimize
還是可以左右互搏就像練圍棋一樣
純 code 我覺得不好用，本來就有 copilot，但是你不是每天都要處理 code。 比如如何配置 database ，配置 nginx 之類的。 copilot 也不能幫你建議這段 code 如何優化，還有幫你處理提案， 處理 commit message。 然後我覺得像圍棋那樣是不能的，圍棋規則近年沒有大變動， 程式語言改個版可能就不一樣了，比如 golang 1.18 增加的泛型，這個 AI 沒資料肯定 寫不出來。 我最近讓 chatgpt 寫 redis match 語法都會寫錯了，更何況是新特性。
※ 編輯: y2468101216 (36.226.25.90 臺灣), 03/09/2023 11:24:02有意思
我喜歡這個想法
53
Re: [心得] 人工智慧真的來了整天就想取代醫生 .... AI 最多就只能成為醫生的輔助工具而已 除非你能說服 每個被治療的病患可以接受AI誤判 沒有任何一款醫療的AI 可以達到100%的辨識率 誤判是必然的 你的訓練資料 測試資料 正確答案 都是來自於 人類醫生58
[情報] ChatGPT熱潮起飛NV顯卡拒絕降價還不夠賣作為全球最大的AI訓練晶片供應商，英偉達儼然成為這股技術熱潮背後的主要贏家。 此前據行研機構估計，ChatGPT的訓練需要用到大約10000塊英偉達GPU晶片 隨著更多科技企業投入生成式AI工具的研發及商用，大算力AI晶片的需求將更加旺盛。 為此，英偉達CEO黃仁勳近日在多次公開誇讚ChatGPT和生成式AI技術的歷史意義 稱生成式AI給全球企業帶來開發和部署AI戰略的緊迫感![[情報] ChatGPT熱潮起飛NV顯卡拒絕降價還不夠賣](https://img1.mydrivers.com/img/20230301/eb586d866fbd4f96bbf1d8af75f14e4f.png "[情報] ChatGPT熱潮起飛NV顯卡拒絕降價還不夠賣")
54
Re: [新聞] AI爆紅！ChatGPT概念股成追捧焦點 這檔這幾天狂用chatGPT 基本上有在寫程式的人都會用stackoverflow 但也要你的問題 剛好有人在stackoverflow問過 你才會有結果可以看 當然可能80~90%的情況是可以找到答案 但有時候就真的要找很久 一篇一篇翻 或是瘋狂google 要不然就是去youtube找答案 運氣差的時候找一了個小時 還不一定能找到讓你滿意的結果![Re: [新聞] AI爆紅！ChatGPT概念股成追捧焦點 這檔](https://i.imgur.com/tgXoH4pb.jpg "Re: [新聞] AI爆紅！ChatGPT概念股成追捧焦點 這檔")
55
Re: [閒聊] ChatGPT是語言模型不是搜尋引擎本來沒想這麼早回這篇的，不過既然都有人把討論串回起來了我丟點資訊， 既然都會看網紅發表對ChatGPT的看法（沒有貶義），我覺得也可以看看這個： 台大電機副教授李宏毅老師的ChatGPT講解（先回到PTT還是學術論壇XD） ChatGPT (可能)是怎麼煉成的 - GPT 社會化的過程![Re: [閒聊] ChatGPT是語言模型不是搜尋引擎](https://img.youtube.com/vi/e0aKI2GGZNg/mqdefault.jpg "Re: [閒聊] ChatGPT是語言模型不是搜尋引擎")
7
[問卦] 用PTT二十年來的文章會訓練出什麼AI?OpenAI訓練出一個 幾乎什麼問題都會回答的ChatGPT 雖然有時候答不出來就唬爛 但還是很猛 他們說是拿Reddit網路論壇上的文章做為來源之一來訓練6
[問卦] ChatGPT是不是過譽了?昨天我第一次用ChatGPT問他一些問題 雖然我問題都不是制式問題，感覺他都亂回答 昨天我問他哈利奎茵是誰 他竟然回我這個![[問卦] ChatGPT是不是過譽了?](https://i.imgur.com/uycaybdb.png "[問卦] ChatGPT是不是過譽了?")
4
[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%最近ChatGPT各種刷屏，幾乎每天都是科技媒體網站的頭條 有人早在擔心自己的工作被ChatGPT取代，更多的人及公司是想辦法蹭上ChatGPT熱度 然而說到真正的受益者，NVIDIA這一波可是實實在在吃到了紅利。 ChatGPT火爆出圈之後，不少公司及投資者都加大了對生成式AI的投入 然而ChatGPT的成本不菲，訓練一次的費用在幾百萬到上千萬不等![[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%](https://i.imgur.com/VgwLArpb.png "[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%")
5
[問卦] CHATGPT最後會變成底特律變人一樣嗎？CHATGPT，目前最紅的ai 最後應用在機器人身上 可以當工人、看護工、小女孩、女朋友、技術員、傭人 ai訓練到最後，會有自我意識，懂得愛情、親情 CHATGPT最後會變成 底特律變人 一樣，想要追求獨立跟人類反抗嗎？2
[問卦] chatgpt太神奇吧安 阿法狗是兩個ai對下棋後生成的 而chatgpt也太神奇 可以自己在網路找資料訓練自己 我猜研究人員也跟阿法夠一樣不清楚怎麼回事![[問卦] chatgpt太神奇吧](https://i.imgur.com/Ex9MBjMb.jpg "[問卦] chatgpt太神奇吧")
3
Re: [問卦] CHATGPT的終極應用是什麼???OpenAI做為一間公司 不會只有一種產品 ChatGpt只是他第一個震驚世人 的代表作 最近又看到他推出新的B2B的產品