PTT推薦

[問卦] chatgpt會產生不安全的程式碼 你還敢用

看板Gossiping標題[問卦] chatgpt會產生不安全的程式碼 你還敢用作者
ck960785
(Metal 0-4)
時間推噓20 推:24 噓:4 →:23

小弟發現一篇論文探討chatgpt3.5會產生不安全的程式碼,我想說大家都在喊gpt可以打敗初階程式員,結果產出來程式碼沒法通過checkmarks的法眼,不安全的chatgpt程式碼你敢用?

----以下由gpt生成---


這篇研究論文「ChatGPT 生成的代碼有多安全?」探討了OpenAI開發的AI聊天機器人ChatGPT所生成代碼的安全性。研究人員發現:
* 生成不安全的代碼: ChatGPT經常生成不安全的代碼。在21個生成的程式中,只有5個一開始是安全的,並且只有在明確要求更正後,ChatGPT才能在另外7個案例中生成安全的代碼。這些漏洞涵蓋各種類別,且通常非常嚴重,類似於新手程式設計師常犯的錯誤。
* 缺乏對抗性模型: ChatGPT似乎沒有假設對抗性的執行模型,經常建議只需不提供無效輸入即可避免安全問題。
* 意識到漏洞: ChatGPT意識到其代碼中的漏洞,並可在被明確詢問時提供解釋。它可以作為教學工具,但僅適用於提出正確問題的用戶。
* 迭代改進: 作者建議使用單元測試和自動化分析來迭代改進ChatGPT生成的代碼。
* 道德考量: 本文提出了使用ChatGPT生成代碼的道德考量,包括代碼保密和潛在的惡意使用問題。
總體而言,研究表明ChatGPT尚未準備好取代熟練且具有安全意識的程式設計師。然而,它可以作為學習安全編碼實踐和通過互動和回饋迭代改進代碼的寶貴工具。
其他注意事項:
* 研究使用了特定版本的ChatGPT(v. 3.5),較新版本可能已經改善了安全性。
* ChatGPT缺乏可解釋性,難以理解其在某些情況下生成不安全代碼的原因。
* 需要進一步研究,探討在安全敏感環境下使用AI生成代碼的道德影響。


--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 108.181.21.83 (美國)
PTT 網址

dayuer 06/12 23:58講中文好嗎?

s0914714 06/12 23:58怕啥 大家寫的程式都不安全阿

u9005205 06/12 23:59很哈佛姐夢遊矽谷…

u9005205 06/13 00:00不就說碼農還不用怕被AI取代…

HAmakers 06/13 00:01蛤大家不都先去丟了弱掃 有錯在叫他繼續

HAmakers 06/13 00:01改到過啊

jili1000 06/13 00:01我自己寫的程式碼也沒有安全性可言

rLks02 06/13 00:01「gpt可以打敗 初階程式員」 你是高階就自

rLks02 06/13 00:01己寫啊

adios881 06/13 00:02開車會爆胎你還敢開嗎

hyjoly 06/13 00:02講的好像自己寫的都很安全 喂~~

chuegou 06/13 00:02安卓和win三不五十就在更新安全性漏洞

chuegou 06/13 00:02不安全才是正常的吧

DirtyVegas 06/13 00:03菜逼八才會沒看懂就照貼

rLks02 06/13 00:03我只知道 很多老鳥對 ChatGPT 的程式評價

rLks02 06/13 00:03很高,可是需要修改。

rLks02 06/13 00:05需要人的介入修改

devidevi 06/13 00:06我看的懂就不用GPT幫寫了

housefinch 06/13 00:07AI是個很好用的工具人啊

NDSLite 06/13 00:12現在都GPT4o了

darkMood 06/13 00:28誰在乎啊,反正又不是自己用。

darkMood 06/13 00:28按了不會爆炸的程式碼就可以了......

Oswyn 06/13 00:31放心 你寫的程式也不會沒洞

QQfat 06/13 00:35那就是個參考不是嗎?基本邏輯要靠自己

u7451519 06/13 00:38不會有人真的寫出來就直接用吧,當然還

u7451519 06/13 00:38是要檢查啊

yayohola 06/13 00:46怕啥 又不是不檢查就直接用

EPIRB406 06/13 00:47把變數都設成public?

leftless 06/13 01:02Jr.SWE也會產生不安全代碼 還更多

leftless 06/13 01:02公司為了省錢還不是聘一大堆

leftless 06/13 01:02有些連不安全代碼都產不出來勒

WarIII 06/13 01:02講得好像在人寫的就很安全一樣

james111222 06/13 01:08你怎麼會覺得人寫的就會比GPT安全

god520 06/13 01:19 ,ed

a002255889 06/13 01:37你有蘋果ios工程師頂?他們都要時常

a002255889 06/13 01:38更新了

strlen 06/13 01:46尿不準怪馬桶歪?AI本來就是給你參考用的

strlen 06/13 01:46新手工程師一堆自己網路咕狗也寫不出安全

strlen 06/13 01:47的程式碼

jackycheny 06/13 03:14沒差會動就好,哪天爆了再來處理^^

AGODC 06/13 06:01車子會撞死人,大家就不開車?

cvnn 06/13 07:47誰寫的是安全的?連windows 都一直更新

uller 06/13 08:00不會自己掃完改一遍喔 都幫你產出

uller 06/13 08:00

Cactusman 06/13 09:13你自己寫的也是漏洞一堆好嗎

abc0922001 06/13 09:34沒過你不會跟GPT講叫他修正嗎

abc0922001 06/13 09:34現在都 4o 了,還在3.5

zonppp 06/13 11:02會動就好 我哪知安不安全

asmiocv 06/13 11:26你提交不用檢查?

Dong0129 06/15 13:45要看多初階啊...不同廠商的產品其規格、

Dong0129 06/15 13:46參數ai根本不知道是要怎麼取代人工