7 月 6 日,2023 世界人工智能大會(WAIC)在上海正式開幕。本屆大會的主題是 " 智聯世界,生成未來 "。來自本屆 WAIC 首日公開消息:第二代骁龍 8 移動平台的高通 AI 引擎榮獲 2023 世界人工智能大會頂級獎項:SAIL 獎——卓越人工智能引領者獎。高通公司全球副總裁侯明娟上台領獎。
7 月 6 日,2023 世界人工智能大會(WAIC)在上海正式開幕。本屆大會的主題是 " 智聯世界,生成未來 "。來自本屆 WAIC 首日公開消息:第二代骁龍 8 移動平台的高通 AI 引擎榮獲 2023 世界人工智能大會頂級獎項:SAIL 獎——卓越人工智能引領者獎。高通公司全球副總裁侯明娟上台領獎。
第二代骁龍 8 憑借面向整個平台的開創性 AI 智能設計賦能了非凡用戶體驗,樹立了網聯計算的新标杆,其搭載高通技術公司處理速度最快、最先進的高通 AI 引擎,通過軟硬件的一系列創新,相較上一代帶來 4.35 倍的 AI 性能提升和 60% 的能效提升,從而爲越來越多的創新型 AI 用例和 AI 增強的用戶體驗提供強大的性能基礎。
高通 AI 引擎由多個硬件和軟件組件組成,用于在骁龍移動平台上爲終端側 AI 推理加速。它采用異構計算架構,包括高通 Hexagon 處理器、Adreno GPU、Kryo CPU 和傳感器中樞,共同支持在終端上快速而有效的運行 AI 應用程序。其關鍵核心 Hexagon 處理器擁有一系列創新:提供專用供電系統、支持微切片推理、INT4 精度、Transformer 網絡加速等,可結合高通 AI 軟件棧和 AI Studio 提供全棧 AI 能力和優化手段,行業内率先在終端側支持 Stable Diffusion、ControlNet 等生成式 AI 用例,并可與雲端協同打造适應大模型時代的混合 AI 處理框架,助力 AI 體驗創新和生态繁榮。目前,第二代骁龍 8 移動平台已經可以支持參數超過 10 億的 AI 模型運行。未來幾個月内,将有望支持參數超過 100 億的模型在終端側運行,這也将成爲基于高通技術的産品的一大差異化優勢。
終端側 AI 處理可以帶來處理時延,隐私和安全,可靠性等優勢,并且在生成式 AI 場景下可以有效分擔雲端處理的負載,降低成本和能耗,有助于雲端協同的混合式 AI 處理架構的有效部署。高通 AI 引擎可提供卓越的終端側 AI 處理能力,并可跨越智能手機賦能更多邊緣移動終端類别,比如筆記本電腦、XR 頭顯、IoT 設備以及汽車等,引領終端側 AI 應用的進一步發展。
據悉,高通深耕 AI 研發已超過 15 年,高通 AI Research 在基礎研究領域實現突破,并跨終端和行業進行擴展,以賦能智能網聯邊緣。高通 AI Research 不僅在開展全新 AI 研究工作,也率先在商用終端上展示概念驗證,爲在現實世界中的技術規模化應用鋪平道路。高通 AI Research 的重要 AI 研究論文正在影響整個行業,推動高能效 AI 發展,并與公司所有團隊通力合作,将最新 AI 發展成果和技術集成到高通産品之中,讓實驗室研究所實現的 AI 進步能夠更快交付,豐富人們的生活。
在 WAIC 現場,高通還帶來了 Stable Diffusion、ControlNet 等生成式 AI 用例的技術展示。這是全球首個運行在 Android 手機上的 Stable Diffusion 終端側演示,和全球最快的手機上的 ControlNet 終端側演示。
全球首個運行在 Android 手機上的 Stable Diffusion 終端側演示
全球最快的手機上的 ControlNet 終端側演示
Stable Diffusion 是一個非常出色的從文本到圖像的生成式 AI 模型,能夠基于任何文本輸入,在數十秒内創作出逼真圖像。其參數超過 10 億,迄今爲止主要限于在雲端運行。高通采用全棧 AI 優化的方式,通過量化、編譯和硬件加速進行優化,使其能在搭載第二代骁龍 8 移動平台的手機上運行,在 15 秒内執行 20 步推理,生成一張 512x512 像素的圖像。這是在智能手機上最快的推理速度,能媲美雲端時延,且用戶文本輸入完全不受限制。目前,高通也已經将 Stable Diffusion 這一生成式 AI 用例擴展到搭載骁龍計算平台的 PC 産品上。
ControlNet 圖像生成圖像模型是一項語言 - 視覺模型(LVM),擁有 15 億參數,能夠通過調整輸入圖像和輸入文本描述,更精準地控制生成圖像。在這項演示中,ControlNet 能夠在終端側實現高效交互運行,通過一套跨模型架構、AI 軟件和神經網絡硬件加速器的全棧式 AI 優化,時延 12 秒内可完成 16 步推理,生成 AI 圖像,無需訪問任何雲端,便能提供高效、有趣、可靠且私密的交互式用戶體驗。高通 AI 模型增效工具包、高通 AI 軟件棧和高通 AI 引擎在此過程中發揮了關鍵作用。