OpenAI 最近 推出了網絡安全資助計劃，以促進人工智能驅動的網絡安全解決方案和工具的推進和實施。該計劃於 2023 年 6 月 1 日宣布，旨在為專注於增強網絡防御者能力和有效性的項目提供資金支持和額外資源。
該計劃的總資金為 100 萬美元，將以 10,000 美元的 API 積分和直接資金的形式分發。感興趣的申請者有機會持續提交他們的提案，OpenAI 將根據他們與計劃核心目標的一致性來評估他們。
OpenAI 網絡安全資助計劃的核心目標
為捍衛者賦能:該計劃旨在通過為防御者配備有效預防、檢測和響應網絡攻擊的工具和方法，優先考慮尖端人工智能技術為防御者帶來的好處。衡量能力:該計劃旨在開發和採用指標和方法來量化人工智能模型的網絡安全能力。這將有助於更好地了解它們的性能和穩健性，最終提高它們的有效性。提升討論:OpenAI 的計劃致力於在人工智能和網絡安全的交叉點上促進全面而細緻的討論。這將通過促進這兩個領域的專家和利益相關者之間的研究、教育和合作來實現。
網絡安全資助計劃向世界各地的個人和組織開放，他們都認同 OpenAI 對安全和創新的 AI 驅動未來的願景。該計劃歡迎解決 AI 在防禦性網絡安全中的實際應用的提案。
ChatGPT 賞金計劃也已開放
4 月，OpenAI 推出了 ChatGPT 賞金計劃，這是一項旨在識別和解決其流行語言模型 ChatGPT 中潛在安全漏洞或有害行為的新舉措.該計劃為發現並報告系統中的嚴重錯誤或風險的個人提供高達 20,000 美元的獎勵。
ChatGPT 語言模型允許用戶與 AI 支持的聊天機器人進行交互式對話，獲得了極大的人氣。然而，OpenAI 認識到確保其安全性和可靠性的重要性。通過邀請更廣泛的安全研究社區參與賞金計劃，OpenAI 旨在主動識別和糾正任何潛在問題，進一步增強系統的穩健性。
賞金計劃主要關注兩個領域:“發現和解決問題”。利用”和“安全可中斷”。在第一類中，鼓勵研究人員發現可能導致模型提供不正確或有害響應的新漏洞或安全風險。在“安全可中斷”類別中，該程序旨在發現允許用戶在模型表現出不良或不適當響應的情況下中斷或停止模型行為的漏洞。
