[問卦] chatgpt會產生不安全的程式碼你還敢用

ck960785 發表於 2024/6/12 下午11:57:00

看板Gossiping標題[問卦] chatgpt會產生不安全的程式碼你還敢用作者

(Metal 0-4)時間Jun 12 23:57:00 2024推噓20 推:24 噓:4 →:23

小弟發現一篇論文探討chatgpt3.5會產生不安全的程式碼，我想說大家都在喊gpt可以打敗初階程式員，結果產出來程式碼沒法通過checkmarks的法眼，不安全的chatgpt程式碼你敢用?

----以下由gpt生成---

這篇研究論文「ChatGPT 生成的代碼有多安全？」探討了OpenAI開發的AI聊天機器人ChatGPT所生成代碼的安全性。研究人員發現：
* 生成不安全的代碼： ChatGPT經常生成不安全的代碼。在21個生成的程式中，只有5個一開始是安全的，並且只有在明確要求更正後，ChatGPT才能在另外7個案例中生成安全的代碼。這些漏洞涵蓋各種類別，且通常非常嚴重，類似於新手程式設計師常犯的錯誤。
* 缺乏對抗性模型： ChatGPT似乎沒有假設對抗性的執行模型，經常建議只需不提供無效輸入即可避免安全問題。
* 意識到漏洞： ChatGPT意識到其代碼中的漏洞，並可在被明確詢問時提供解釋。它可以作為教學工具，但僅適用於提出正確問題的用戶。
* 迭代改進：作者建議使用單元測試和自動化分析來迭代改進ChatGPT生成的代碼。
* 道德考量：本文提出了使用ChatGPT生成代碼的道德考量，包括代碼保密和潛在的惡意使用問題。
總體而言，研究表明ChatGPT尚未準備好取代熟練且具有安全意識的程式設計師。然而，它可以作為學習安全編碼實踐和通過互動和回饋迭代改進代碼的寶貴工具。
其他注意事項：
* 研究使用了特定版本的ChatGPT（v. 3.5），較新版本可能已經改善了安全性。
* ChatGPT缺乏可解釋性，難以理解其在某些情況下生成不安全代碼的原因。
* 需要進一步研究，探討在安全敏感環境下使用AI生成代碼的道德影響。

※ PTT 留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 108.181.21.83 (美國)

※ PTT 網址

推

dayuer 06/12 23:58講中文好嗎？

推

s0914714 06/12 23:58怕啥大家寫的程式都不安全阿

→

u9005205 06/12 23:59很哈佛姐夢遊矽谷…

→

u9005205 06/13 00:00不就說碼農還不用怕被AI取代…

推