"2024 年,将是大模型應用年。不要高估新技術的短期影響,也不要低估新技術的長期影響,尤其是大模型。" 浪潮通軟副總經理兼 CTO 鄭偉波對钛媒體 App 表示。
浪潮通軟的判斷與行業一緻,但目前大模型落地還存在可見的難題與掣肘,人人都在談論大模型,無論是使用者還是布道者,反觀之," 千模大戰 " 重點還在基礎大模型,在行業領域場景的應用落地不夠,缺乏與業務場景深度融合的垂域大模型。
大模型落地 B 端,還要闖幾道關?
B 端企業客戶比 C 端消費者更加務實,僅僅靠對話無法讓企業客戶爲之買單,過去一年,行業集體都處于試錯和探索階段,評估大模型是否值得投入,該怎麽投入才能産生更高價值,大模型廠商都在渲染革命性,而企業客戶都在看重可行性。
首先是成本,大模型訓練和部署成本相對較高,千億級大模型在企業中的應用僅推理設備就是一筆較大的投入,且大模型帶來的收益評價難點也較高,因此如何降低使用成本,如何把控大模型的投入産出平衡,是未來大模型在企業軟件中應用所要持續考慮的。
其次,适用性是關鍵,知識是核心,通用大模型在企業中的适用場景有限,基于大模型設想的場景往往比較多,但是真正能夠落地,真正能夠解決真問題,利用大模型的能力做出符合企業需求的應用,核心要看企業的 " 知識 "。對特定行業的深入理解,找到真場景,形成有價值的行業、領域知識,是大模型在企業應用軟件落地所面臨的一大挑戰。
再次是數據準确性、可信性,保證數據、知識來源的正确性是前提,大模型輸出信息内容的可信、準确是根本目标。此外,企業的知識、數據往往是分散的,隐性的,如何梳理,如何管理也是難題。
此外,生态也是亟待補充,對話問答隻是大語言模型應用的一個方面,與系統服務融合,完成各種任務才是關鍵。企業應用環境複雜,涉及多廠商軟件,大模型和軟件的融合需要協同廠商建立生态,豐富大模型應用插件庫。與模型夥伴、行業 ISV 及應用企業多層次全方面的合作共赢,是未來大模型發展趨勢。
最後也是最重要的,數據與隐私安全,大模型的研發和應用過程中,存在數據洩露和價值觀等多方面的安全風險,特别是調用一些大模型公網 API 服務時,企業用戶更有顧慮。即便是私有部署的模型,仍然面臨着難以确定大模型返回的數據是否根據使用者的角色進行了數據内容限制的挑戰。
" 五個挑戰誰先突破,誰就能占得先機。這裏面又有兩點有爲關鍵,第一是自身大模型能力,第二則是生态。" 鄭偉波說,
能力方面,大模型生成的質量、理解推理的準确性、思維鏈的可控性等等,都要達到一定臨界值才能得到廣泛持續應用。
在生态方面,要想打造真正好用的大模型,就需要去和各種場景結合,實現各種場景下大模型的應用落地,并持續深度優化,要有更爲廣泛的開發者在大模型之上構建豐富的應用生态,豐富大模型應用插件庫,以開放的姿态推動大模型生态建設。
浪潮海嶽大模型:找準定位、場景拉動
浪潮通軟于 2023 年 9 月份發布了浪潮海嶽大模型 inGPT,定位于企業服務垂域大模型,并和海嶽 PaaS 平台、智能 ERP、工業軟件相結合。
鄭偉波表示,自海嶽大模型發布之後,我們發現,融合領域知識非常重要。大模型的知識分三層:通用知識、垂域知識和企業知識。
浪潮通軟在垂域知識的梳理和沉澱上做了很多工作,這得益于其在大型集團企業經營管理領域 30 多年的行業深耕,尤其在财務、人力、司庫等業務領域,以及智能制造、糧食倉儲、智慧水務、智慧礦山等垂域行業也有深厚的積累,基于這些領域實踐,沉澱下來了大量領域專有知識,作爲大模型訓練數據來源,進而打造深度結合業務的垂域大模型。
在企業應用方面,私有化是重要場景,企業知識出于安全考慮,一定要放在企業本地,需要在企業端對知識進行管理,對此,浪潮通軟也爲企業打造了配套的知識化工具,提供模型 " 精調 " 能力。
大模型和應用深度結合也是大模型發展的重要路徑之一,海嶽大模型和海嶽 PaaS 平台、智能 ERP 相結合形成了對話式智能商業分析、智能搜索、智能問答、智能化軟件開發、智能流程自動化等智能化應用,賦能企業智能場景落地。
大模型在企業端落地也需要工程化的支撐,海嶽大模型提供企業大模型應用開發平台,封裝了一系列知識管理工具集、大模型微調框架、大模型應用插件庫、服務編排組件等工具,爲企業提供覆蓋基礎大模型納管、知識治理、模型管理、服務編排、部署交付、運營維護的全生命周期服務,以自動化的流程和智能化的交互,提高企業的服務質量和效率。
鄭偉波認爲,浪潮通軟在大模型領域的差異化優勢,主要還是體現在采取和應用相結合的策略上,實現垂域大模型 + 智能應用一體化。
" 大模型與應用的融合需要兩邊都做出改變,大模型要爲應用做出改變,應用也要爲大模型能更好的理解、推理、生成,進行架構上的調整,一體化的研發設計是關鍵優勢。例如,我們的 API 爲了更好地被大模型識别、編排,在描述和調用方式上都進行了優化。" 他說。
通用大模型赢家是少數,垂域大模型更有機會
通用大模型的早期熱度有多喧嚣,結束得就有多潦草,甚至不起一絲漣漪,一些基礎大模型沒有調用量,自然消失在市面上。
鄭偉波表示,未來大模型的發展還是要以應用爲中心,在基礎大模型之上,要衍生出更多面向不同領域、行業和場景的垂域大模型,實現垂域大模型的百花齊放,進而支撐上層成千上萬甚至數以百萬計的 AI 原生應用。
" 最後能夠‘跑’出來的大模型要分情況,通用大模型最後能‘跑’出來的,應該是少數頭部大模型,而垂域大模型由于面向多樣的領域、場景和應用,能‘跑’出來大模型會更多。" 他補充道
與此同時,大模型應用正在朝 AI 原生化重構方向發展,OpenAI 推出了可以自定義的 GPTs, 讓大家看到了 AI 原生應用雛形, 2024 年 1 月 11 日上線的 GPTStore 應用市場,更确認大模型正成爲 AI 操作系統。
基于思維鏈編排的自主智能體将改變未來軟件形态,成爲未來軟件架構的重要發展趨勢。未來每個人将擁有更多大模型主動權。随着 AI Agent 與大模型的逐漸演化,自主智能代理越來越強大,AI 原生應用也将助力打造人機融合演進的數字世界和生活。
大模型推動了軟件在開發、交互、運行、運維模式上的變革,軟件産品的智能化程度也随之越來越高。
開發方面,基于大模型,能實現代碼自動補全、解釋代碼并優化、生成單元測試用例、回答編碼問題等一系列能力。
交互方面,大模型驅動軟件交互模式從菜單驅動的 GUI 發展到對話驅動的 CUI,開啓了軟件智能對話時代。
運行方面,随着大模型與企業應用的融合梯次深化,軟件産品從嵌入智能發展到原生智能,基于思維鏈編排的自主智能體成爲未來軟件架構的重要發展趨勢。
運維方面,大模型也爲企業 IT 管理打造了智能化的自動駕駛系統。
" 大模型發展才剛剛開始,基礎大模型會逐漸向頭部聚集,垂域大模型和應用創新百花齊放,在垂域大模型之上打造與各行業、領域深度融合的 AI 原生應用,才能将大模型的價值有效釋放。" 鄭偉波總結表示。
(本文首發钛媒體 APP 作者|張帥,歡迎添加作者 mr3right 爆料、交流)