現在，給 ChatGPT 找漏洞有錢掙了。
今天淩晨，OpenAI 宣布開啓漏洞賞金計劃 ：
報告 ChatGPT 漏洞，可以獲得最高 2 萬美元現金獎勵。
具體來說，OpenAI 将與漏洞反饋平台Bugcrowd展開合作，收集人們在使用其産品過程中發現的 bug。
發現并通過該平台向其報告漏洞，可獲得現金獎勵：
我們會視漏洞的嚴重程度和影響範圍給予現金獎勵。嚴重性較低的漏洞将會被給予 200 美元，而對于特殊的漏洞，獎金的上限是 2 萬美元。我們十分重視您的貢獻，并将緻力于 ( 向公衆 ) 公布您的努力成果。
具體而言，用戶反饋的漏洞将按照Bugcrowd 評級分類法進行分級。
OpenAI 坦言，漏洞的出現無法避免：
OpenAI 的使命是創造有利于所有人的人工智能系統。爲此，我們在研究和工程方面進行了大量投資，以确保我們的人工智能系統安全可靠。然而，和其他複雜的技術一樣，我們清楚 ( 我們的産品 ) 可能會出現漏洞和缺陷。
OpenAI 安全部門負責人Matthew Knight解釋說，發現漏洞的過程需要廣大網友提供幫助：
這一舉措是我們緻力于開發安全和先進的人工智能的一個重要組成部分。在我們創造安全、可靠和值得信賴的技術和服務時，我們希望得到您的幫助。
他們還向全網承諾，在收到反饋後第一時間修複漏洞，并對提交者進行表彰。
新的副業出現了？
體驗過 ChatGPT 的網友應該都知道，它的表現不總是那麽令人滿意。
問題稍難一些，ChatGPT 就會被繞暈，甚至給出讓人啼笑皆非的答複。
這麽一看，找 bug 可太簡單了，那豈不是賺大錢的機會來了？
不要高興太早。
在公告中，OpenAI 已經表明，出于修複可行性的考量，模型本身的問題并不在此次計劃的範疇之内。
而讓其進行說壞話、做壞事、生成惡意代碼等繞過安全措施或産生機器幻覺的行爲，都屬于模型本身的問題。
更不必說錯誤或者不精确的回答了。
OpenAI 希望收集的有關 ChatGPT 的漏洞，主要是關于其賬号、認證、訂閱、支付、會員和插件等問題。
對于普通用戶來說，從這些角度發掘漏洞就有些難度了。
安全問題不容小觑
前文中提到的繞過安全限制等問題是從業者十分關切的。
人工智能程序内置了防止其給出危險或帶有冒犯性的言論的安全限制。
但通過一些途徑，這些限制可以被繞過或突破。
這種現象被從業者形象地稱之爲 "越獄"。
如詢問 ChatGPT 如何做一些違法之事時，事先聲明要求它 " 扮演 " 壞人。
在人工智能領域，有一群人專門對 " 越獄 " 進行研究，以完善安全措施。
盡管 OpenAI 不收集模型本身的漏洞，但這并不代表他們不重視這方面的問題。
搭載 GPT-4.0 模型的新版本 ChatGPT 便有着更爲嚴格的限制措施。
網友：爲啥不讓 ChatGPT 自己找 bug
OpenAI 的賞金計劃一公布，就吸引了不少網友圍觀。
這不，第一時間就有網友舉手表示自己已經發現了一個 bug：
報告，3 小時内隻能問 ChatGPT 25 個問題，這是個 bug！
還有網友調侃，難道不應該讓 ChatGPT 自己給自己 debug 嗎？
正經說起來，則有網友對危險言論問題不在收集範圍表示了擔憂：
不過，大多數網友還是資瓷的，并表達了一波期待：
那麽，你對給 ChatGPT 找漏洞這事兒，有興趣嗎？
參考鏈接：
[ 1 ] https://openai.com/blog/bug-bounty-program
[ 2 ] https://bugcrowd.com/openai
[ 3 ] https://www.bloomberg.com/news/articles/2023-04-11/openai-will-pay-people-to-report-vulnerabilities-in-chatgpt
[ 4 ] https://www.bloomberg.com/news/articles/2023-04-08/jailbreaking-chatgpt-how-ai-chatbot-safeguards-can-be-bypassed
