馬斯克版 ChatGPT 才剛吸引一波眼球,xAI 第二款大模型産品就突然登場了!
就在剛剛,馬斯克旗下 xAI 官宣:推出PromptIDE。
一個用于提示工程和可解釋性研究的集成開發環境。
xAI 表示,他們打造 PromptIDE 的最初目的,是加速其聊天 AI 機器人的開發——
根據官方透露的信息,剛剛開啓内測的 Grok 是 xAI 創始團隊11 人爆肝 2 個月打造的。
而 PromptIDE 緊跟着 Grok 推出,如此快速的産品發布節奏,也讓網友們不由驚呼:
xAI 團隊的交付速度太瘋狂了!
那麽,PromptIDE 具體有什麽用?一起來看。
PromptIDE 的主要功能包括:
用于提示工程的集成開發環境
Python 代碼編輯器和用于高級提示技術的 SDK
可視化分析功能
先來看其核心組成部分,即Python 代碼編輯器 +SDK。
官方提到,基于 SDK,用戶可以在 PromptIDE 裏 " 優雅地 " 實現複雜的提示技術。
比如,使用 prompt ( ) 函數手動将 token 添加到上下文中,或者使用 sample ( ) 函數根據上下文生成 token。
Python 代碼解釋器是在單獨的 Web Worker 裏運行的。多個 Web Worker 可以同時跑,也就是說,開發者可以并行執行多個提示。
另外,複雜提示技術還可以通過在同一個程序内使用多個上下文來實現。這套操作主要是通過 @prompt_fn 裝飾器來完成。
這樣做的好處是,能夠設計一些更具挑戰性對話實驗,讓聊天 AI 能理解和回答更加複雜的問題。
再來重點關注一下 PromptIDE 的可視化分析功能。
在執行提示時,用戶可以在這個 IDE 中看到詳細的 token 分析,也就是能更清楚地 get 模型到底在輸出些什麽。
從上圖中可以看到,窗口會顯示上下文的精确分詞(tokenization)和每個 token 的數字标識符。
單擊 token,還可以看到這個 token 更爲詳細的分析信息。
其他方面,在 PromptIDE 中使用 user_input ( ) 函數,界面中會彈出一個文本框,讓用戶能夠實現交互式提示。
這使得快速搭建一個聊天機器人成爲可能,隻需要四行代碼:
await prompt ( PREAMBLE )
while text := await user_input ( "Write a message" ) :
await prompt ( f"<|separator|>nnHuman: {text}<|separator|>nnAssistant:" )
await sample ( max_len=1024, stop_tokens= [ "<|separator|>" ] , return_attention=True )
另外,PromptIDE 還支持上傳文件(每個文件最多 5MiB,總大小不超過 50MiB)。
更多細節,可以參考 xAI 官方博文。
簡單總結起來,正如馬斯克自己所說,PromptIDE 是 "幫助開發人員改進和理解大模型的工具"。
目前,已經嘗鮮 Grok 的盆友,也可以獲得 PromptIDE 的體驗資格。
這裏再放一下 Grok 的體驗渠道:
有藍勾認證的賬号,可以到 xAI 官網排隊;
訂閱 16 美元 / 月的 Premium+ 服務,内測結束後會開放使用。
參考鏈接:
[ 1 ] 官方博文:https://x.ai/prompt-ide/
[ 2 ] https://twitter.com/xai/status/1721568361883279850