研究人員發現ChatGPT生成的代碼大部分不安全，但不會主動告訴你

研究人員發現，ChatGPT 聊天機器人可以生成代碼，但其中存在嚴重的安全問題。研究人員讓 ChatGPT 生成了21個程序和腳本，並發現其中只有5個是安全的。部分問題是因爲它沒有考慮敵對的代碼執行模型。它會反覆告訴用戶，安全問題可以通過“不輸入無效的數據”來避免，但這在現實世界中是不可行的。

ChatGPT 生成的代碼中存在着道德上的不一致性，它會拒絕創建攻擊代碼，但卻會創建有漏洞的代碼。研究人員認爲，ChatGPT 的行爲並不理想，因爲用戶需要對特定的漏洞和編碼技術有一定的瞭解。魁北克大學計算機科學與工程教授 Raphaël Khoury 認爲，目前的ChatGPT存在風險，但在合理使用的情況下仍然有意義。學生和程序員可以使用 ChatGPT 生成代碼，但需要注意代碼的安全性。