OpenAI官宣“漏洞賞金計劃”：給ChatGPT挑毛病，最高獎勵14萬元

當地時間4月11日，OpenAI在官方發文稱，該公司推出了一項漏洞賞金計劃（Bug Bounty Program）。

OpenAI的使命是創建惠及所有人的人工智能系統。爲此，我們在研究和工程方面進行了大量投資，以確保我們的人工智能系統安全可靠。然而，與任何複雜的技術一樣，我們明白漏洞和缺陷可能會出現。

OpenAI漏洞獎勵計劃是我們表彰和獎勵安全研究人員的寶貴見解的一種方式，他們爲維護我們的技術和公司安全做出了貢獻。我們邀請您報告您在我們的系統中發現的漏洞、錯誤或安全缺陷。通過分享您的發現，您將在使我們的技術對每個人都更安全方面發揮關鍵作用。

爲了激勵測試，作爲我們的讚賞，OpenAI將根據報告問題的嚴重程度和影響提供現金獎勵，我們的獎勵範圍從低嚴重性發現的200美元到特殊發現的2萬美元（約14萬元人民幣）不等。

Open AI表示，在發佈任何新系統之前，我們會進行嚴格的測試，聘請外部專家進行反饋，通過人工反饋的強化學習等技術來改善模型的行爲，並建立廣泛的安全和監控系統。

我們安全工作的一個關鍵重點是保護兒童。我們要求年滿18歲或13歲以上的人必須獲得父母批准才能使用我們的人工智能工具，並正在研究驗證選項。我們不允許我們的技術被用於生成仇恨、騷擾、暴力或成人內容等類別。與GPT-3.5相比，我們的最新模型GPT-4響應不允許內容請求的可能性降低了82%，我們已經建立了一個強大的系統來監控濫用情況。現在，ChatGPT-Plus用戶可以使用GPT-4，我們希望隨着時間的推移，更多的人可以使用它。