IT 之家 11 月 19 日消息，阿裏通義千問昨日（11 月 18 日）發布博文，宣布在經過數月的優化和打磨後，針對社區中對更長上下文長度（Context Length）的要求，推出了 Qwen2.5-Turbo 開源 AI 模型。
Qwen2.5-Turbo 将上下文長度從 12.8 萬個擴展至 100 萬個 tokens，這一改進相當于約 100 萬英語單詞或 150 萬漢字，可以容納 10 部完整小說、150 小時的演講稿或 30000 行代碼。
IT 之家注：上下文長度（Context Length）是指在自然語言處理（NLP）中的大型語言模型（LLM）在一次處理過程中能夠考慮和生成的文本的最大長度。
該模型在 1M-token 的 Passkey 檢索任務中實現了 100% 準确率，RULER 長文本評估得分爲 93.1，超越了 GPT-4 和 GLM4-9B-1M。
團隊通過整合稀疏注意力機制（sparse attention mechanisms），将處理 100 萬 tokens 到輸出第一個 tokens 的時間，從 4.9 分鍾縮短至 68 秒，速度提升達 4.3 倍，這一進步顯著提高了模型的響應效率，使其在處理長文本時更加迅速。
Qwen2.5-Turbo 的處理成本保持在每百萬個 tokens 0.3 元，能夠處理 3.6 倍于 GPT-4o-mini 的 token 數量。這讓 Qwen2.5-Turbo 在經濟性上具備了更強的競争力，成爲高效、經濟的長上下文處理解決方案。
盡管 Qwen2.5-Turbo 在多個基準測試中表現優異，團隊仍然意識到在真實場景中的長序列任務表現可能不夠穩定，且大型模型的推理成本需要進一步優化。
團隊承諾将繼續優化人類偏好、提高推理效率，并探索更強大的長上下文模型。
IT 之家附上參考地址
