首頁 > 技術 > 正文

ChatGPT取代程序員?生成的代碼大部分不安全

2023-04-23 18:41:33來源:中關村在線  


(相關資料圖)

近日,加拿大魁北克大學的四位研究人員發(fā)現(xiàn),基于 GPT-3.5 接口的聊天機器人 ChatGPT 在生成代碼時存在嚴重的安全問題。研究人員讓 ChatGPT 生成了21個程序和腳本,結果顯示只有5個是安全的。

【全網(wǎng)首發(fā)】人人都能玩賺ChatGPT:Chat GPT 10億打工人被革命

[經(jīng)銷商]京東商城

[產(chǎn)品售價]

進入購買

部分問題是由于它沒有考慮敵對的代碼執(zhí)行模型,但在后續(xù)被要求改進問題時,它才提供了有用的指導。研究人員認為,ChatGPT 的這種行為并不理想,因為用戶需要對特定的漏洞和編碼技術有一定了解。此外,ChatGPT 內部存在道德上的不一致性,它會拒絕創(chuàng)建攻擊代碼,但卻會創(chuàng)建有漏洞的代碼。研究人員認為,使用 ChatGPT 生成代碼存在風險,需要讓學生意識到,如果代碼是用這種類型的工具生成的,那么它很可能是不安全的。

標簽:

相關閱讀

精彩推薦

相關詞

推薦閱讀