OpenAI 旗下的生成式 AI 機器人 ChatGPT 正紅得發紫,但其中不少漏洞也讓監管部門、投資者和用戶充滿擔憂。
爲了解決其中的漏洞,4 月 11 日周二,OpenAI 宣布,将公開懸賞 200 至 2 萬美元的賞金,以幫助該公司查找其人工智能系統中的錯誤,例如廣受歡迎的 ChatGPT 聊天機器人。賞金的多少将按照用戶發現的 bug 的重要性來決定,如果想要得到 2 萬美元的賞金,那麽必須是公司認定的 " 特殊發現 "。
該公司稱,它已經推出了一個 bug 賞金計劃,人們可以通過該計劃報告他們在使用其人工智能産品時發現的弱點、漏洞或安全問題。這類做法在科技行業很常見,很多公司向用戶付費以報告錯誤或其他安全漏洞。OpenAI 表示,它正在與 bug 賞金平台 Bugcrowd 合作推出這一計劃。
該公司表示,推出該計劃的部分原因是因爲它認爲 " 透明度和協作 " 是發現其技術漏洞的關鍵。
OpenAI 的安全主管 Matthew Knight 說:
這一舉措是我們緻力于開發安全和先進人工智能的重要組成部分。在我們創造安全、可靠和值得信賴的技術和服務時,我們需要您的幫助。
這一行動并不完全令人驚訝。這家總部位于舊金山的公司總裁兼聯合創始人 Greg Brockman 最近在社交媒體上提到,OpenAI 一直在 " 考慮啓動賞金計劃 " 來檢測薄弱環節。
除了 OpenAI 之外,微軟等大型科技公司長期以來都有 bug 賞金計劃。去年 4 月,微軟宣布了兩項新的懸賞計劃,在原本最高 2 萬美元的賞金基礎上,增加了最高 30% 的額外賞金,使最高賞金達到了 2.6 萬美元。微軟表示,他們希望通過這些新的賞金獎勵,鼓勵研究人員将重點放在對客戶隐私和安全具有最大潛在影響的漏洞上。不過,對于并不被認爲是高影響的漏洞,微軟表示将仍能夠獲得一般獎勵計劃下的賞金,且也可以根據報告漏洞的嚴重程度與提交質量獲得更高的獎勵。
由于獎勵金額有人,甚至有人全職做起了 "bug 獵人 "。
有用戶則認爲,OpenAI 開始 bug 賞金計劃,和微軟提高對漏洞的懸賞力度是一樣的,側面證明了這兩家公司對發現和解決主要産品的高危漏洞已經力不從心,不得不依靠用戶來發現和解決問題。