頭圖來自:視覺中國
随着技術的發展,數據量的爆炸性增長,到 2025 年,全球生成和消耗的數據總量預計将超過 180ZB。而計算機的核心部件——中央處理器(CPU)分析數據的能力卻有點力不從心,導緻數據處理緩慢且低效。
傳統的 CPU 爲了滿足多任務處理、高效能和節能要求,變得越來越複雜。在這個高速發展的時代,我們不能再依賴單一的 CPU 來完成所有的工作。爲此,各種特定的處理單元(PU)如雨後春筍般湧現,其目标就是 " 瓜分 "CPU 的任務,人多力量大,各司其職,優化計算效率。
GPU 在 AI 時代崛起
CPU 是計算機的 " 大腦 ",執行一般計算任務,而 GPU 則幫助 CPU 執行圖形和人工智能等更複雜的任務。
GPU(圖形處理單元)最初是爲了滿足圖形渲染的需求而發展起來的,在 GPU 芯片市場中,英偉達控制着全球大約 80% 的市場。圖形處理單元 GPU,最初是爲了滿足對圖形渲染的迫切需求而發展起來的,而現在它的功能已經遠超這個範圍,成爲推動現代計算的核心力量之一。得益于其并行處理的卓越能力,GPU,就像一個無畏的少年,一路在遊戲、挖礦、AI 等領域高歌猛進,展現出了無限的可能。今天,GPU 已經廣泛滲透到深度學習、科學計算等關鍵領域,成爲這些領域不可或缺的一部分。
尤其是在當今的人工智能的時代,生成式 AI 的廣泛和深入應用标志着一場技術革命的到來。在這個背景下,圖形處理單元(GPU)的重要性逐漸超越了中央處理單元(CPU),站上了曆史的舞台中心。
首先是,作爲世界上最大的 GPU 供應商,英偉達大約占據全球 80% 的 GPU 市場份額。2023 年 6 月 13 日,英偉達的市值首次突破了萬億美元大關,成爲美國第五大市值公司,僅次于蘋果、微軟、Alphabet 和亞馬遜。這一裏程碑式的事件突顯了 GPU 行業的健康和增長動力,同時也預示着它在未來将繼續發揮重要作用。
英偉達目前的市值仍然在 1 萬億美元以上
接下來是數據中心業務大反轉。在過去幾年中英偉達的重心開始轉向了數據中心市場。2023 年第二季度的營收數據顯示了一個非常引人注目的現象。在 2023 年之前,數據中心的 CPU 市場份額一直顯著高于 GPU。
事實上,即便是在 2023 年第一季度,英偉達在數據中心業務的收入(42 億美元)仍然未能超過 Intel 和 AMD 的總和。但到了第二季度,局面發生了翻天覆地的變化,在數據中心業務上,兩大 CPU 巨頭英特爾和 AMD 的營收分别爲 40 億美元和 30 億美元。而與之形成鮮明對比的是,英偉達的數據中心業務營收超過了 100 億美元,這一數字甚至超過了英特爾和 AMD 的營收之和。這一數據充分顯示了 GPU 的地位在迅速上升,并在某些領域已經超越了 CPU。
GPU 在現代超級計算中占據了中心地位,它被廣泛用于各種任務的加速,從網絡到遊戲,從加密到人工智能等各個領域。随着越來越多的計算任務轉移到 GPU 上,我們可以預見到,GPU 将在未來幾十年内繼續是計算和人工智能領域的主要工具。
爲數據處理而生的 DPU
有了專門處理圖形的 GPU 之後,還不夠。在數字化時代,需要有針對數據處理而生的處理器,于是數據處理單元(DPU)應運而生,DPU 也被稱爲是數據中心的第三大計算支柱。DPU 與 CPU 和 GPU 配合使用,可增強計算能力并處理日益複雜的現代數據工作負載。
CPU、GPU 和 DPU 的對比(來源:datacenterknowledge)
DPU 是專門設計用來處理大量的數據和信息。它可以有效地處理和分析數據,提高數據中心和雲計算平台的性能。根據英偉達的說法,DPU 應該能完成以下三大項任務:
卸載:從服務器 CPU 接管基礎設施任務,以便更多的 CPU 能力可用于運行應用程序。
加速:使用 DPU 芯片中的硬件加速,比 CPU 更快地運行基礎設施功能。
隔離:将關鍵數據平面和控制平面功能移至 DPU 上的單獨域,既可以減輕服務器 CPU 的工作,又可以在 CPU 或其軟件受到損害時保護功能。
迄今爲止,許多 DPU 開發都是針對超大規模的。展望未來,DPU 在數據中心和企業網絡其他地方的使用預計将會增長。一種可能實現的方式是将 DPU 技術與網絡交換機相融合—— AMD Pensando 将這種技術組合稱爲 " 智能交換機 "。" 我們認爲智能交換機是企業吸收 DPU 技術的最簡單方法,因爲它可以讓他們淘汰舊設備,并爲他們的網絡帶來重要的技術和規模," AMD Pensando 網絡技術和解決方案小組首席商務官 Soni Jiangdani 表示。
由于人工智能、機器學習、深度學習、物聯網、5G 和複雜雲架構需求的增長,DPU 市場穩步增長。随着對數據密集型應用程序的需求不斷增加,計算架構将不斷發展,從而需要更快、更高效、更安全的數據處理。DPU 市場上湧現了不少芯片玩家,主要供應商包括英偉達、Marvell、Fungible(被微軟收購)、Broadcom、Intel、Resnics 和 AMD Pensando,以及中科馭數、芯啓源雲豹智能、雲脈芯連等等。
根據 Allied Market Research 的一份報告,預計到 2031 年,全球數據處理單元市場将達到 55 億美元,2022 年至 2031 年的複合年增長率爲 26.9%。因此,DPU 可能會從今天的可選組件轉變爲下一代計算的必要行業标準。
爆炸性增長的視頻,需要 VPU
随着視頻内容的普及和人工智能技術的飛速發展,視頻處理單元(VPU,Video Processing Unit)成爲了當前科技領域的一顆新星。多年來,英特爾的 CPU+ 軟件的視頻解碼 / 編碼方案一直主導着流媒體市場,但是随着視頻流媒體對高質量視頻的需求不斷增長,CPU 将不再具有經濟價值,而且會消耗太多的能耗和空間。于是,VPU 這種專門用來處理視頻的芯片開始興起,他們旨在釋放 CPU 的龐大勞動力。
VPU(視頻處理單元)是專門設計用來處理視頻任務的,它可以高效地處理視頻編碼和解碼、圖像處理和機器視覺等任務。通過将這些任務從 CPU 或 GPU 上卸載,VPU 可以提高系統的總體效率和性能,同時也減輕了 CPU 或 GPU 的負擔,使它們可以專注于其他任務。
這樣的 VPU 通常還具有高性能、低功耗和低延時等多個優勢,據 SemiAnalysis 對 VPU 芯片廠商镕銘微電子(NETINT)的分析,相比于 CPU 和 GPU,VPU 的密度和功耗是 CPU 和 GPU 無法比拟的,VPU 的出現可以說是爲視頻行業應用帶來了前所未有的加速計算能力。
VPU 與 GPU 和 CPU 的對比(圖源:Semianalysis)
當下 4K、8K 等高清視頻技術的廣泛應用,使得視頻處理的計算負擔持續上升,這使得高效能的 VPU 成爲行業發展的必備工具。目前包括谷歌、Meta、字節跳動和騰訊等互聯網巨頭均已經瞄上這顆芯片。與此同時,AMD 在今年 4 月,發布了一款用于數據中心的新型專用媒體加速器和視頻編碼卡—— Alveo MA35D,英特爾則是将 VPU 集成到其 14 代酷睿 Meteor lake 處理器中。
除了雲和數據中心之外,終端也已成爲視頻及遊戲的主要載體,手機廠商愈發追求視頻或影像質量。對此,vivo/ 小米以視頻芯片爲自研切入點,如 Pixelworks/ 逐點半導體這樣的第三方視頻芯片供應商也開始迎來發展契機。
未來,視頻處理芯片市場預計将繼續增長,特别是在邊緣計算、物聯網(IoT)和 5G 通信領域。高效和低功耗的視頻處理芯片将成爲這些應用領域的關鍵組件。
更多新的 "PU" 正在路上
一家成立于 2018 年的以色列的初創芯片企業 NeuroBlade,開發了一種專用處理器架構,他們将之稱爲 SPU(SQL 處理單元)。該公司的目标是成爲 " 數據分析領域的 Nvidia"。SPU 主要是用來加速 SQL 指令處理,該公司 CEO 表示,通過使用專門設計的處理器加速 SQL 處理,可以實現端到端 SQL 分析加速。在部署方面,該芯片通過主機服務器的 PCIe 總線插入,能夠透明地接管 SQL 相關處理,而無需修改主機應用程序軟件。
NeuroBlade SPU 芯片和卡
SPU 支持常見的列式文件格式。當一個查詢請求從查詢引擎發送時(也就是從數據庫管理系統中發出查詢請求),SPU 可以直接訪問和處理存儲在本地存儲設備上的數據文件。在處理完數據文件後,SPU 會将處理結果以原生查詢引擎布局的形式發送回查詢引擎。
SPU 的工作原理
NeuroBlade 公司正在與多個大型超大規模提供商進行談判,并已與一家公司赢得了數千張 SPU 卡的合同。如 NeuroBlade 還與戴爾公司合作,在 PowerEdge 服務器中分銷 SPU 卡産品。據他們稱,超大規模企業使用這一 SQL 處理單元(SPU)來卸載運行分析工作負載的 x86 CPU,可以獲得 100 倍或更多的工作加速,每年可以節省數百萬美元。
結論
一款 " 全能 " 型的 CPU 似乎已經不能滿足所有的計算需求。随着計算需求的多樣化和技術的發展,多種 PU 的出現,如 GPU、DPU、SPU 和 VPU,正是對這種趨勢的回應。它們從各自擅長的領域,優化特定的計算任務,爲 CPU" 分憂解難 ",提高整體的計算效率和性能。
雖然多種 PU 的出現已經開始瓜分 CPU 的任務,但 CPU 仍然是計算的中心。不過,多種 PU 的融合和發展無疑會進一步推動計算技術的不斷進步和優化,幫助實現更高效,更快速的計算,滿足日益增長的數據和計算需求。
在未來,我們可以期待更多種類的處理器出現,它們将更加專業和高效地處理各種不同類型的計算任務,爲各個行業和領域帶來更大的便利和推動力。
本文來自微信公衆号:半導體行業觀察 (ID:icbank),作者:杜芹 DQ