來源:獵雲精選;文 / 邵延港
大廠正在大模型戰場激戰,而騰訊卻認爲不能操之過急。在百度、阿裏、商湯等互聯網和人工智能廠商們發布大模型後,騰訊終于公布了其大模型進展,但與通用大模型不同的是,騰訊此次打算将自己擅長的事情做到極緻。
6 月 19 日,騰訊雲在國家科技傳播中心召開行業大模型及智能應用技術峰會上,首次公布騰訊雲行業大模型研發進展,依托騰訊雲 TI 平台打造行業大模型精選商店,爲客戶提供 MaaS 一站式服務,助力客戶構建專屬大模型及智能應用。
騰訊集團高級執行副總裁、雲與智慧産業事業群 CEO 湯道生表示:" 就模型而言,比起通用大模型,企業更需要針對具體行業的大模型,并結合企業自身的數據進行訓練和精調,以打造出更實用的智能服務。"
大模型掀起 AI 浪潮,行業參與者也在不斷探索其商業化可能性。騰訊雲發現産業場景則是大模型的最佳練兵場。騰訊雲副總裁、騰訊雲智能負責人、優圖實驗室負責人吳運聲認爲,依托騰訊雲的高性能計算、行業大模型能力,以及騰訊多年深耕産業互聯網積累的行業經驗,騰訊希望爲客戶和夥伴,打造一站式的行業大模型精選商店,加速大模型在産業領域的創新實踐。
基于各個産業場景的多樣性和複雜程度,具體的行業大模型最終将展現出豐富的個性。騰訊 MaaS 服務也将催生出行業大模型生态。
大模型的普惠應用
大模型的發展,對數據和算力産生了巨大的挑戰,也加大了企業應用大模型的成本。AI 新紀元下,比起通用大模型,企業更需要針對具體行業的大模型,并結合企業自身的數據進行訓練和精調,以打造出更實用的智能服務。企業對提供的專業服務要求高且容錯性低,因此使用的大模型必須具備可控、可追溯和可修正的特點,并經過反複充分地測試。
企業在應用大模型時,常常面臨計算資源少、數據質量差、投入成本高、專業經驗少等挑戰。對企業在大模型應用實踐的路徑探索,吳運聲表示,騰訊雲将通過 TI 平台,面向客戶全面輸出 MaaS 能力,可以滿足客戶模型預訓練、模型精調、智能應用開發等多樣化需求,讓客戶可根據自身業務場景需求,定制不同參數、不同規格的專屬模型。
此外,湯道生稱,大模型最終要在真實場景落地,要達到理想的服務效果,往往需要把企業自身的數據也用起來。因此,騰訊雲推出了推出基于 TI 平台的行業大模型精調解決方案。
據了解,騰訊雲 TI 平台行業大模型精調解決方案,具備完整大模型精調工具鏈,支持客戶加入自己獨有的場景數據,進行精調訓練,客戶可根據自身業務場景需求,定制不同參數、不同規格的專屬模型。
值得注意的是,騰訊雲打造了一站式行業大模型精選商店,内置多個高質量行業大模型,涵蓋金融、傳媒、文旅、政務、教育等多個行業場景。兼容支持多模型訓練任務,企業可以按需取用。
騰訊雲以文旅場景爲例進行現場演示:通過加入文旅行業垂直場景數據、接入文旅客戶 API 接口後,大模型不僅可以爲用戶制訂細緻的旅行攻略,提供非常人性化的服務體驗,也讓智能客服系統,實現服務商業化的閉環。未來,随着更多高質量數據的增加,模型的精調效果還會更好。
目前,騰訊雲已經攜手傳媒、文旅、金融、政務、教育等行業的頭部企業,在十餘個行業探索了超 50 個行業大模型的應用解決方案。在此基礎上,企業不僅可以加入獨有的場景、數據,快速精調生成專屬模型;也可根據業務場景需求,按需定制不同參數、規格的模型服務。
湯道生認爲,企業所需要的是在實際場景中真正解決了某個問題,而不是在 100 個場景中解決了 70%-80% 的問題。有行業針對性的行業大模型,對與企業智能化升級更具有普惠價值。
騰訊雲 MaaS 加速行業大模型落地
與發布通用大模型産品相比,騰訊雲則直接跨越至大模型的行業應用環節。主要是通用大模型的訓練數據主要來自公開數據集或網絡數據,對于特定行業的專業領域知識了解有限。此外,通用大語言模型的訓練需要大量計算資源和漫長的訓練周期,同時,安全和合規也是必要的考量因素。
從騰訊雲 MaaS 全景圖可以看到,騰訊雲加大了大模型基礎設施建設。
在技術底座方面,今年 4 月 14 日,騰訊雲發布新一代 HCC 高性能計算集群,采用最新一代星星海自研服務器,搭載 NVIDIA H800 TensorCoreGPU,基于自研網絡、存儲架構,帶來 3.2T 超高互聯帶寬、TB 級吞吐能力和千萬級 IOPS。實測結果顯示,新一代集群算力性能較前代提升 3 倍。
此外,騰訊雲即将推出向量數據庫(Tencent Cloud VectorDB),源自騰訊集團每日處理千億次檢索的向量引擎(OLAMA),單索引支持 10 億級向量規模,更适用于 AI 運算、檢索,數據接入 AI 的效率也比傳統方案提升 10 倍。
在平台層面,騰訊雲 TI 平台内置多個高質量行業大模型,涵蓋金融、傳媒、文旅、政務、工業等多個行業場景,企業可以結合自身場景數據可按需定制精調,也可以根據自身需求開展多模型訓練任務,大幅降低大模型應用門檻。用戶也可以通過 TI 平台以及模型的私有化部署、權限管控和數據加密等方式,讓企業用戶在打造模型與使用模型時都更放心。
同時,騰訊雲 TI 平台提供完善的大模型工具鏈,包括數據标注、訓練、評估、測試和部署等全套工具。同時,由 TI-ACC 升級的 " 太極 Angel" 提供更優的訓練和推理加速能力。在傳統 CV、NLP 算法模型的基礎上,新增了對大模型的訓練和推理加速能力,通過異步調度優化、顯存優化、計算優化等方式,相比行業常用方案性能提升 30%+。
再次,TI 平台沉澱了從 " 業務分析、數據處理、大模型選擇 " 到 " 模型評測 " 的一體化完整方法論,同時支持 MLOps 的體系及工具,保障客戶需求的順利交付。
騰訊 ToB 新引擎
在騰訊一季度财報電話會上,騰訊公司總裁劉熾平就表示,騰訊對 AI 一直有所布局,AI 及大模型對于騰訊整個業務來說是一個增長的擴大器。如今,騰訊雲 MaaS 将成爲騰訊 ToB 業務的新增長極。
基于騰訊雲 MaaS 的能力,騰訊的騰訊企點、騰訊會議、騰訊雲 AI 代碼助手等三大 SaaS 應用全面智能升級。
新一代的騰訊企點智能客服,基于行業模型,結合客戶業務需求進行訓練與精調,客服機器人可以提供更精準、更詳細的回答,甚至調用業務系統來提供實時數據。對比上一代智能客服的機械回答,用戶體驗有很大的提升。
騰訊會議即将推出覆蓋會議全流程場景的智能小助手。通過簡單自然的會議指令,協助用戶進行日程安排、會管、會控等一系列操作。會後可以自動生成智能總結摘要,還能基于智能錄制的能力,幫助用戶高效回顧,提升用戶開會和信息流轉效率。值得注意的是,騰訊會議基于行業大模型的智能錄制功能,已經以付費的形式面向會員、商業版和企業版用戶全量開放。
新一代 AI 代碼助手,用 AI 加持來重塑開發體驗和團隊能力,讓開發者通過全新的人機協作,達到高效創作。AI 代碼助手支持多種編程語言和主流開發框架、以及常用開發環境;覆蓋開發關鍵流程,包括溝通、編碼、排錯、評審和調優,高效承接機械性工作,釋放開發者時間和精力來專注代碼創作,實現開發全面加速。同時也可以基于正負反饋,不斷訓練調優代碼生成過程,實現工具持續改進。
不過,行業大模型需要 " 大模型 " 更懂行業,才能更易落地。未來要拓展更多行業大模型的應用時,行業生态不可避免。
在 6 月 19 日的發布會上,騰訊雲聯合來自金融、文旅、傳媒、政務、教育等數十個行業的 22 家客戶正式啓動行業大模型共建合作,未來将依托騰訊雲領先的行業大模型能力,構建垂直行業模型及應用。并攜手 17 家生态夥伴共同發起了 " 騰訊雲行業大模型生态計劃 ",緻力于共同推進大模型在産業領域的創新和落地。
在行業大模型标準體系方面,騰訊雲聯合中國信通院共同啓動了 " 行業大模型标準體系及能力架構 " 研究,該研究涵蓋模型行業能力、模型工程化性能、模型算力網絡、模型安全可靠等方面,未來将爲行業大模型的建設和應用提供完備的能力和标準體系。
生态共建是 AI 發展的有效路徑。湯道生表示," 今天,我們再一次站在數字科技革命的奇點上,大模型隻是開端,AI 與産業的融合,将綻放出創造力的未來。"