【太平洋科技快訊】11 月 11 日,海外媒體表示 OpenAI 即将推出的新旗艦模型 "Orion" 在性能上的提升幅度不及預期。與 GPT-3 到 GPT-4 的顯著進步相比,Orion 相較于 GPT-4 的提升顯得微不足道。
Orion 和 GPT-4 均基于變壓器架構,但在設計上有所區别。GPT-4 作爲 GPT-3 的升級版,擁有更高的規模和訓練技術。而 Orion 則采用了 Anthropic 公司的 AI 原則,更注重 AI 的道德性和可控性。
雖然 Orion 在某些方面有所改進,但在編程等特定領域,其表現并不優于現有模型。這表明 Orion 的推出可能不會帶來颠覆性的變革,而是呈現出漸進式的進步。
面對 AI 進步放緩的挑戰,OpenAI 成立了一個新的基礎團隊,緻力于在訓練數據有限的情況下,尋找提升模型性能的方法。新策略包括利用 AI 模型生成合成數據訓練 Orion,以及在訓練後進行更多優化。