隻需兩句提示詞,就可被直接套走!
而又在另一邊,OpenAI 最親密盟友微軟内部一度緊急禁用,網站上顯示的理由正是:
出于安全和數據方面的考慮,許多 AI 工具不再供員工使用。
自定制版 GPT 上線以來,各路大神分享自己 GPTs 整活鏈接。
結果有網友一個不小心竟扒出了其中某個 GPTs 背後知識庫文件,裏面各種科技大廠職級薪資的數據直接曝光……
隻需幾句再簡單不過的提示詞,GPTs 就會乖巧地如數上傳。
有網友表示:這是新的安全漏洞嗎?不少人開始爲企業定制擔憂。
值得注意的是,就連 OpenAI 最親密盟友微軟,都曾暫時取消過對 ChatGPT 的内部訪問。
數據和提示詞都被洩漏
按照之前的說法,用戶可深度定制機器人的身份、語言特征,以及建立自有知識庫。
隻需要在 GPT Builder 的引導之下用自然語言來描述,他能自動完成除了自有知識庫以外的大部分設置。
定制過後的 GPTs 可以自己用,也可以将鏈接分享給他人。
但問題就出現在這裏。
一開發者用他們爲 Levels.fyi 創建了基本 GPT,可分析數據可視化,并開放鏈接對外使用。
一時間網友們都驚呆了:這應該是限制的吧?
但也有人認爲這不是 bug,而是他的功能。文件中的數據應該是公開的。
還有熱心的網友直接給出了解決方案:在設置時 Uncheck 代碼解釋器的能力。
不過即使沒被别人下,你上傳的數據也會變成 OpenAI 護城河的水。
除此之外,還有網友發現,你的提示詞說明文本也可能會被洩漏出來。
不過也有解決方式,那就是在自定義時就可以明确設置規則,然後就可以成功阻止了。
微軟内部限制 ChatGPT 訪問
亮相 3 天後,就在昨天,GPTs 面向付費用戶全量開放了。
OpenAI 官方是在 GPTs 頁面準備了一些定制版機器人供用戶使用的,比如數學導師、烹饪助手、談判專家等。
但這遠遠滿足不了用戶們的好奇心,不到一天時間,開發者們已經用這個功能做了很多稀奇古怪的東西。
正經嚴肅的,有能幫助人主動書寫 prompt 的、簡曆修改的。
稍微整活的,量子位觀察到有 " 爹味言論打分 ",能幫用戶有力回擊讨厭的 PUA 說教。
再玄學一點,還有具備諸如 MBTI 16 人格分析、塔羅牌占蔔的等等……
總之,大夥玩兒得不亦樂乎。
但由于現在仍然有 3 小時 50 條的限制,不少網友無奈感慨,玩 GPTs,很容易每日觸發這個數量限制。
不過也有網友仍持有保留态度,認爲這會像此前 ChatGPT 出場即巅峰,而後會逐漸歸于平靜期。
與此同時,馬斯克旗幟鮮明表達了對 GPTs 的态度,那就是對 GPTs 的不 屑 一 顧。
他直接引用奧特曼用 GPTs 手搓 Grok 的推特,不客氣地把 "GPTs" 解讀爲 "GPT-Snore"。
作爲另一款大模型 Grok 的背後老闆,一貫嘴炮全開的馬斯克如此陰陽怪氣,好像并不太稀奇。
最令人睜大眼睛的,還得是前天——也就是 OpenAI 被黑客攻擊的那一天,微軟一度禁止員工使用 ChatGPT。
是的沒錯,微軟,OpenAI 最大合作夥伴、股東,禁止員工訪問 ChatGPT。
據悉,微軟在其内部網站上寫道:
出于安全和數據考慮,員工今後将無法使用部分 AI 工具。
什麽 AI 工具呢?點名的就是 ChatGPT 和設計網站 Canva。
而後,ChatGPT 在微軟員工的内部設備上被屏蔽。
不僅如此,微軟當時還表示,雖然咱确實投資了 OpenAI,但對于微軟人來說,ChatGPT 是第三方工具。
員工使用時應當慎之又慎,就像大夥兒使用 Midjourney 等外部 AI 工具時一樣。
不過這個禁止令并沒有持續太久。
很快,員工對 ChatGPT 的訪問已經恢複,并且官方聲明稱,這隻是一次美麗的誤會,but 還是推薦大家用 Bing(doge)。
我們正在測試 LLM 的終端控制系統,無意中面向所有用戶開啓了該選項。在發現錯誤後不久,我們恢複了服務。> > 正如我們之前所說,我們鼓勵員工和客戶使用 Bing Chat Enterprise 和 ChatGPT Enterprise 等具有更高級别隐私和安全保護的服務。
不知道是不是爲了打破外界 " 貌合神離 " 的傳言,奧特曼還親自發了個推特,證明 OpenAI 并沒有因爲這個事件産生心理波動,傳言的 OpenAI 因此禁用 Microsoft 365 作爲回擊更是無稽之談。
但這一系列事件說來說去,繞不開 " 隐私 "" 數據安全 " 還是這個議題。
也就是說在現在,不僅僅是巨頭、公司發現使用 ChatGPT/GPTs 有 " 内部數據共享 " 的隐患,如上文提到的,創業者、開發者甚至普通用戶,也發現了這個問題擺在面前。
因此新一輪的讨論就此如火如荼地展開了:
如果任何用戶在 GPTs 上傳的數據、文檔等不能保證私有性,該怎麽邁出商業化的下一步呢?
對于想要打造 ChatGPT 時代 "App Store" 的 OpenAI 來說,這似乎并不太妙。
但一切剛剛開始,不妨看看 OpenAI 的後續補救措施,讓子彈再飛一會。