PTT推薦

Re: [討論] 中國快被AI狂潮淹沒

看板HatePolitics標題Re: [討論] 中國快被AI狂潮淹沒作者
sxy67230
(charlesgg)
時間推噓 3 推:3 噓:0 →:10

※ 引述《sxy67230 (charlesgg)》之銘言:

kuma0326: 中國在生成式語言AI研究上最大的麻煩是223.138.120.220 06/03 12:39
kuma0326: 需避免出現敏感詞、思想不正確的內容223.138.120.220 06/03 12:39

今天剛好處理新的研究項目忙到沒時間回覆,這邊說一下,其實當前生成式語言模型避免出現敏感詞或思想不正確不止是中國,包含Meta、Google很多研究員都在研究如何讓模型可控(包含關注我們想關注的內容並且可以給予模型個性設定並且避免遺忘性格設定諸如此類)。

不過語言模型其實比很多人想像的更難控制,原因就出在於訓練數據的天然分佈跟下一個詞預測的熵累加,這會導致最終損失跟不確定性被放大,當前還是一個待解決如何讓AI學習人類大腦的雙系統模式(快思-系統1,慢想-系統2)。像最近gpt4o就有prompt注入風險,駭客可以直接透過注入特殊格式的prompt開啟上帝模式,若是有廠商拿4o進行具體商業利用可能還會有嚴重的損失,這也是為什麼可控、安全的AI模型是這幾年來從業研究員在呼籲連署的。

差不多4醬,因為話題剛好涉及最近正在研究的東西所以就有點雜念隨筆談一下。

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.7.80 (臺灣)
PTT 網址

kuninaka 06/03 22:40用生成式AI寫病毒

kuninaka 06/03 22:40可控安全,又要強大,感覺互斥

Supasizeit 06/03 22:44光叫AI看法條他就看不懂了

Supasizeit 06/03 22:45正常人都看得出來花東三法裡面有兩兆

kuninaka 06/03 22:45我看不出來

kuninaka 06/03 22:46那個兩兆不就自己找數字兜的嗎= =

kuninaka 06/03 22:46重點也不再那兩兆吧

kuninaka 06/03 22:46國六根本就蓋不出來

daleptt 06/03 22:54花蓮王說10年完成 就是10年

Supasizeit 06/03 23:06你去問GPT4 識字632 氣死 根本文盲

alicevvn 06/03 23:06想問原po科系

fragmentwing 06/04 09:33記得有次neuro突破禁止詞彙vedo嚇到

fragmentwing 06/04 09:33當場開始測試