IT 之家 4 月 5 日消息,OpenAI 公司近日發布新聞稿,宣布改善微調(fine-tuning)API,并進一步擴展定制模型計劃。
IT 之家翻譯新聞稿中關于微調 API 的相關改進内容如下
基于 Epoch 的 Checkpoint Creation
在每次訓練 epoch(将訓練數據集中的所有樣本都過一遍(且僅過一遍)的訓練過程)過程中,都自動生成一個完整的微調模型檢查點,便于減少後續重新訓練的需要,尤其是在過拟合(overfitting,指過于緊密或精确地匹配特定數據集,以至于無法良好地拟合其他數據或預測未來的觀察結果的現象)的情況下。
Comparative Playground
用于比較模型質量和性能的全新并排遊樂場用戶界面,允許對多個模型的輸出進行人工評估,或根據單個提示詞微調 snapshots。
第三方集成:
支持與第三方平台的集成(本周開始與 Weights and Biases 集成),讓開發人員能夠将詳細的微調數據共享給堆棧的其他部分。
更全面的驗證指标:
能夠計算整個驗證數據集(而不是抽樣批次)的損失和準确性等指标,從而更好地了解模型質量。
Hyperparameter 配置
從儀表闆配置可用超參數的功能(而非僅通過應用程序接口或 SDK)
改善微調控制面闆
可以配置超參數、查看更詳細的訓練指标以及從以前的配置重新運行作業的功能。
擴展定制模型計劃
OpenAI 爲進一步擴展定制模型計劃,還推出了輔助微調服務。開發者可以尋求 OpenAI 專業團隊成員的幫助,針對特定領域訓練和優化模型,附加 Hyperparameter 和各種參數高效微調 ( PEFT ) 方法。