OpenAI 的權力之争才剛剛落幕,一場關鍵交易悄悄浮出了水面。
據外媒《連線》(Wired)報道,在 Sam Altman 擔任 OpenAI 的首席執行官期間,OpenAI 與 Rain AI 簽訂了一份價值 5100 萬美元的意向書,承諾會在 Rain AI 的芯片上市後購買芯片。
Rain AI 是一家 AI 芯片初創公司,旨在大幅降低 AI 算力的成本。通過研發一種模仿人腦的工作方式的 AI 芯片—— NPU,從而爲 OpenAI 和 Anthropic 等 AI 公司提供 " 低成本、高能效的硬件 "。
該公司稱," 相比傳統的 GPU,NPU 将爲 AI 開發者(如 OpenAI)提供潛在的 100 倍計算能力,并在訓練方面提供 10000 倍的能效。"
鑒于,OpenAI 一直受困于算力短缺,也就不難理解,它會願意花費大量資金,來确保自己的 AI 項目所需的芯片供應。
Rain AI 研發的芯片有什麽特點呢?該公司又是如何顯露頭角的?這筆投資揭示了 Altman 和 OpenAI 在芯片領域怎樣的布局?
" 類腦 "AI 芯片
Rain AI 的核心産品是基于神經拟态(Neuromorphic)技術的 " 類腦 "AI 芯片—— NPU。芯片旨在實現低耗、高效地處理信息,從而滿足 AI 任務的苛刻計算需求。
它模仿了人腦的結構和功能,類似于大腦中的神經連接,建立在了人工突觸相互連接的網絡上。這種架構允許 NPU 以并行和分布式的方式處理信息,使其非常适合 AI 應用中的 " 計算密集型任務 "。
而且,Rain AI 率先采用了數字内存計算(D-IMC)模式,進一步提升了 AI 處理、數據移動和數據存儲的效率。
Rain AI 的 NPU 旨在以低功耗高效處理信息,滿足 AI 任務的苛刻計算需求 | 圖片來源:Rain AI 官網
此外,Rain 還爲數字内存計算磁貼和軟件棧,提供了知識産權(IP)許可機會,該 IP 是專門爲要求超低延遲和高能效的設備上的 AI 工作負載而定制的,涵蓋了長距離以太網(Long Reach Ethernet, LRE)的一系列計算用例,包括智能汽車、智能手表等。
針對自家産品,Rain 打出的 solgan 是 " 重新定義 AI 計算的極限 ",并宣傳 " 我們的 AI 加速器在速度、功耗、面積、精度和成本之間實現了創紀錄的平衡 "。
鑒于,Rain 所設計的 " 類腦 " 芯片(NPU)承諾具有高效和低耗的運行,這對于克服英偉達、AMD 等公司制造的重型芯片相關的 " 瓶頸 " 至關重要。
涵蓋了 LRE 一系列計算用例 | 圖片來源:Rain AI 官網
Rain AI 的創始者之一,Gordon Wilson 更是在 LinkedIn 上直言,"NPU 芯片将定義新的 AI 芯片市場,并大幅颠覆現有市場。"
不過,值得注意的是,盡管 Rain AI 号稱自己相比于英偉達的 GPU 有更好的能效,但 Rain 的初始芯片,其實是基于谷歌、高通和其他科技公司支持的傳統的 RISC-V 開源架構,旨在用于遠離數據中心的所謂邊緣設備,如手機、無人機、汽車和機器人等。
但是,當前的大多數邊緣芯片設計,如智能手機采用的芯片,都專注于神經網絡的推理階段。而 Rain 的目标是提供一種芯片,既能用于模型和算法的訓練,又能用于之後的推理運行。
目前,Rain AI 已經推出首個 AI 平台,可進行 AI 推理和訓練,還宣稱 " 類腦 " 芯片(NPU)将允許 AI 模型根據周圍環境實時定制或微調。
對此,Sam Altman 還曾公開表示," 這種神經拟态方法能大幅降低 AI 開發成本,并有望爲實現真正的 AGI 提供幫助。"
據悉,OpenAI 希望利用這些芯片來降低數據中心的成本,并将自己的模型部署在手機和手表等設備中,那麽 " 類腦 " 芯片(NPU)無疑對 OpenAI 來說有着巨大的吸引力,
盡管如此,這些也都隻是猜測。目前,OpenAI 将如何使用這些芯片還是不得而知。
與 OpenAI 聯系緊密
Rain AI 成立于 2017 年,旨在爲未來的 AI 構建 " 低成本 " 的計算平台。
Rain AI 有三位聯合創始人,分别是 Jack Kendall、Gordon Wilson、Juan Claudio Nino,他們在佛羅裏達大學結識,此外,還聘請了 OpenAI 的軟件工程師 Scott Gray 擔任公司顧問。
目前,Rain AI 約有 40 名員工,包括 AI 算法開發和傳統芯片設計方面的專家。
Rain AI 的創始人團隊|Rain AI
有趣的是,Rain AI 的總部也位于舊金山,與 OpenAI 相距不到一英裏。
公司成立的次年,Rain AI 就在種子輪融資中,獲得了 500 萬美元的融資,投資者包括知名的創業孵化器 Y Combinator。
彼時,Altman 正在擔任 Y Combinator 的 CEO,同時還以個人名義向 Rain AI 投資了 100 萬美元。一年後,OpenAI 通過了這份價值 5100 萬美元的芯片購買協約。
截至 2022 年 4 月,經曆了由沙特阿拉伯附屬基金 Prosperity7 Ventures 領投的價值 2500 萬美元的一輪融資,Rain 的總融資額達到 3300 萬美元,估值也達到了 9000 萬美元。
今年年初,該公司向潛在投資者 " 誇炫 " 其進展,表示預計本月就可以推出 " 測試 " 芯片,這将意味着芯片設計已經完成,可以開始制造。
Rain AI 還表示最早于明年 10 月可向客戶提供第一批芯片,甚至向投資者強調,自己已經與谷歌、甲骨文、Meta、微軟和亞馬遜等科技巨頭進行了高級談判,以銷售系統給它們。但對此,微軟拒絕置評,其他公司沒有回應置評請求。
簡而言之,Rain AI 仍處于開發階段,目前尚不清楚何時才能投入商用。盡管該公司的 " 類腦 " 芯片(NPU)技術前景廣闊,支持者也備受矚目,但它仍面臨着許多挑戰。
OpenAI 的野心
不管 Altman 投資 Rain AI 這番舉動有沒有私心在裏頭,芯片短缺确實是 OpenAI 面臨的一大難題。
事實上,一年前,ChatGPT 剛剛發布不到一周,Altman 就感覺到計算成本 " 慘不忍睹 "。之後,更是不止一次公開抱怨 AI 芯片的 " 殘酷緊缺 " 和 " 令人瞠目 " 的成本。
今年 5 月份,Altman 更是無奈承認,"OpenAI 正在經曆嚴重的算力短缺,許多短期計劃都推遲了。"
衆所周知,OpenAI 利用其主要投資者微軟的強大雲服務,但由于硬件限制,經常關閉 ChatGPT 的某些功能。
對此,Altman 表示,"AI 的進展速度可能取決于新的芯片設計和供應鏈。" 畢竟在當下,算力就是一切。
事實上,Altman 本人很早之前就對芯片進行了投資布局。除了 Rain AI,2021 年前後他還參與投資了 Cerabras,就是芯片像盤子一樣大,需要兩隻手捧着的那家 AI 公司。
像盤子一樣大的芯片 | 圖片來源:Cerabras 官網
今年初 " 矽仙人 "Jim Keller 與 " 矽神童 "Sam Zeloof 成立的 Atomic Semi(通過簡化和縮小半導體工廠和集成電路原型,快速制造價格合理的芯片),Altman 也有關注,OpenAI Startup Fund 還參與了投資。
此外,就在 Altman 被 OpenAI 解雇的前幾周,還有消息稱他正在試圖籌集數十億美元,創辦一個新的芯片公司。
項目的詳情還不得而知,隻知道代号爲 "Tigris",旨在與英偉達在 AI 芯片領域展開競争。
據悉,爲了 "Tigris" 項目,Altman 曾在中東籌集資金。地點的 " 巧合 ",不禁讓人懷疑這個項目和 Rain AI 是否有什麽關聯。
另外,Altman 還曾與包括芯片設計公司 Arm 在内的半導體高管進行過讨論,商讨如何盡早設計出新的芯片,爲 OpenAI 這樣的大語言模型公司降低成本。
而且,不止 Altman,OpenAI 也正在尋找更低成本造大模型的可能,從而擺脫對英偉達的依賴。
除了尋找像 Rain AI 這樣的芯片供應商,對外投資之外,OpenAI 前段時間也開始嘗試自研芯片,評估潛在收購目标,并招聘硬件相關崗位。
圖片來源:OpenAI 官網
前不久,OpenAI 任命了前谷歌 TPU 的負責人,Richard Ho 爲硬件主管,還聘請了不少編譯器和内核方面的專家,并且正在招聘 " 數據中心設施設計專家 "。
Richard Ho 将領導 OpenAI 的新部門,并且幫助優化合作夥伴的,數據中心網絡、機架和建築。
但這些前瞻性的投資布局,還是很難解決眼前的 GPU 短缺的問題,目前,OpenAI 大規模使用的還是英偉達的芯片。
據觀察,OpenAI 正在動态的調整 ChatGPT 等産品的能力來節省算力。這也就不難理解,有網友最近發現 GPT-4 相比 GPT-3.5 更容易 " 偷懶 "。
随着大模型的出現,人們開始關注大型 AI 模型數據中心的耗電情況。Rain 和其他一些芯片初創公司,旨在重新配置數據處理方式,從而減少傳輸需求,降低功耗。
谷歌、微軟、AMD、英特爾、亞馬遜,以及 Cerabras、Sambanova,Rain 等初創公司相繼入局 AI 芯片未來,AI 算力供應的市場是否會有所變化?而 OpenAI 能否擺脫算力受制于人的局面?從芯片超長的周期來看,這些難題還将繼續存在相當長的一段時間。