PTT推薦

[討論] 優化詠唱的感覺?

看板Soft_Job標題[討論] 優化詠唱的感覺?作者
leviliang
(慕尼黑林志穎)
時間推噓 3 推:3 噓:0 →:8

手機排版請見諒

小弟大約在去年 12 月開始跟風 ChatGPT
從此開始了自己的詠唱之旅
雖然有刻苦地修過 DL
但對于 Prompt 也沒有多高深的認知

目前是把 Prompt Engineering Guide 給嗑了一遍(還沒計畫深入去看論文
了解了一些詠唱的相關小知識
如明確指令、正確範例、規避誤導等等
進階技巧如 Few-Shot、COT、Self-Cobsistency 等也有都去理解

但實際上我沒有真正去優化過自己的詠唱
(官方文件有說,建議去 playground,從簡單的 instruction + example 開始,再慢慢加入其他的 context、Input Data 或 Output Indicator 以進行優化)
我常常覺得自己隨便詠唱出來的就很夠用了
夠解決一些工作上不熟悉語言的問題
也夠我產出技術文件與 proofread

想請教有大大的使用場景是真的去優化了詠唱嗎?
也想請教這種優化下實際體驗與感想!

P.S. 目前還使用 Telegram Bot 作為私人快速助手(可以產出 code block 格式很愛),但不知板上大大們有沒有其他私房推薦平台?也分享一下吧!

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 138.246.3.10 (德國)
PTT 網址
※ 編輯: leviliang (138.246.3.10 德國), 04/15/2023 08:35:27

art104/15 08:40夠用就好了,我比較喜歡模糊地提問,廣度是 ChatGPT 最有價

art104/15 08:40值的地方 XD

ripple012904/15 20:06不用優化了,AutoGPT出了,AI詠唱師要失業了

jhangyu04/16 01:33AutoGPT目前用的token過多,詠唱代價還太高

jhangyu04/16 01:33一次要14美元誰受得了

NCKUFatPork04/16 16:53調參數(temperature ),給規則,task break down.

NCKUFatPork04/16 16:54 多給example

NCKUFatPork04/16 16:56但prompt 越多就越容易超過token 上限,規則越多或

NCKUFatPork04/16 16:56是降低temperature 倒不如直接brute force 直接把所

NCKUFatPork04/16 16:56有規則寫死

NCKUFatPork04/16 16:58可以去研究langchain 把task丟到不同model 去