這款産品全面對标英偉達 H100,公司介紹頁信息顯示,在人工智能訓練加速方面,該芯片的性能是 H100 的 8 倍。
3 月 14 日,OpenAI 創始人山姆 · 奧爾特曼曾投資的芯片初創公司 Cerebras Systems 推出了最新的 Wafer Scale Engine 3 芯片(又稱 "WSE-3 芯片 ")。這款芯片的單顆面積達到了約 46225 平方毫米,是通常芯片面積的 50 倍以上,比一本書的面積還要大。
該公司稱,WSE-3 芯片是專爲訓練業界最大的 AI 模型而構建的,這款新器件使用台積電的 5 納米工藝打造,包含 4 萬億個晶體管,90 萬個 AI 核心。而相比之下,英偉達 H100 芯片所包含的晶體管數量爲 800 億個。
值得一提的是,在介紹 WSE-3 芯片性能參數時,Cerebras Systems 将這款産品全面對标英偉達 H100,公司介紹頁信息顯示,在人工智能訓練加速方面,該芯片的性能是 H100 的 8 倍。" 您可能已經看到 Cerebras 表示其平台比 NVIDIA 的平台更易于使用。造成這種情況的一個重要原因是 Cerebras 存儲權重和激活的方式,并且它不必擴展到系統中的多個 GPU,然後擴展到集群中的多個 GPU 服務器。" 該公司在新聞稿中介紹。
圖源:Cerebras Systems 官網
公開信息顯示,Cerebras Systems 是一家美國 AI 芯片獨角獸公司,公司成立于 2016 年,主要緻力改變芯片計算核心架構,提升芯片集成度,簡化集群連接等相關領域的研究以及深度學習的芯片産品的研發。Cerebras Systems 的最新一筆融資發生在 2021 年,由 Alphawave Ventures 和阿布紮比增長基金(ADG)領投,融資金額 2.5 億美元。截至該輪融資,Cerebras 融資總額 7.2 億美元,公司估值超 40 億美元。
同樣值得關注的是,Cerebras Systems 的投資團隊可謂 " 大佬 " 雲集,其中包括 OpenAI 創始人山姆 · 奧爾特曼(Sam Altman),AMD 前 CTO Fred Weber 以及 Benchmark、Coatue Management、Eclipse Ventures 等多家明星投資機構。
WSE-3 對比 H100 圖源同上
Cerebras Systems 不走尋常路的風格也一直爲産業所熟知——該公司生産的芯片向來以 " 巨大 " 著稱。2019 年 8 月,Cerebras Systems 發布了 Wafer Scale Engine(WSE)系列的首款芯片,該芯片集成了 1.2 萬億個晶體管,40 萬個 AI 核心。在普遍芯片制造商的制造流程還是從矽錠切下一片晶圓并将其分割成數百顆獨立芯片時,WES 選擇了直接将整片晶圓做成一顆芯片,這也導緻單顆芯片的面積與 12 英寸晶圓所能截取的矩形面積一樣大。
2021 年 4 月,Cerebras Systems 推出 WSE-2,據官方數據,第二代芯片擁有 2.6 萬億個晶體管和 85 萬個核心,相較第一代晶體管數、内核數、内存等增加一倍以上。其核心面積就已經達到了 46225 平方毫米,是彼時最大的 GPU 核心面積的 56 倍。2022 年,Cerebras Systems 生産的芯片被矽谷計算機曆史博物館收藏。
在 WSE-3 芯片的産品介紹中,該公司指出,在當今的集群中,可能有數以萬計的 GPU 或 AI 加速器來處理一個問題,将芯片數量減少 50 倍以上可以降低互連和網絡成本以及功耗。在具有 Infiniband、以太網、PCIe 和 NVLink 交換機的 NVIDIA GPU 集群中,大量的電力和成本花費在重新鏈接芯片上。Cerebras Systems 通過将整個芯片保持在一起來解決這個問題。
而大型芯片也是 Cerebras Systems 獲得投資的一個重要原因。産業分析人士對第一财經記者指出,這類芯片提供了英偉達系統的可能替代方案。同時,大芯片上擁有更多晶體管,這意味着更大的算力與内存優勢。
盡管 Cerebras Systems 表示他們已經看到了市場對這款芯片的濃厚興趣,并且稱已經有來自各個部門(包括企業、政府和國際雲)的大量積壓訂單。不過上述産業人士對第一财經記者分析,目前 Cerebras Systems 的産品依舊在主流市場的關注點之外,同時,如此巨大的芯片如果想要應用在數據中心中,那麽必須考慮功耗、硬件配套設施、軟件架構等多方面問題,對于主流市場需求而言,這款産品并不是合适的解決方案。
此前,奧爾特曼曾表示其神經拟态方法能大幅度降低 AI 開發成本,并爲實現真正的通用人工智能提供幫助。而随着近期 OpenAI 正面臨算力資源短缺的困境,建議 OpenAI 收購 Cerebras Systems 的呼聲也與日俱增。
Tirias Research 首席分析師 Jim McGregor 則認爲,與英偉達相比,Cerebras 更像是一個小衆平台,二者的廣度無法相提并論,從 OpenAI 緻力于實現的 AGI 目标來看,盡管 WSE 是一款晶圓級芯片,但也有不能處理的情況,百萬美元級 AI 超級計算機還有英偉達的 SuprPod 和 Selene 是更合适的替代。