10 月 6 日消息,據報道,ChatGPT 背後的美國 AI 公司 OpenAI 計劃自研 AI 芯片,從去年開始進行内部讨論,甚至已經開始評估 AI 芯片公司的潛在收購目标,以解決其所依賴的 AI 芯片短缺以及成本高昂問題。
報道指,OpenAI 團隊認爲 AI 大模型算力有三種采購選擇,包括構建自己的 AI 芯片,與英偉達等芯片公司更緊密的合作,以及計劃在英偉達之外實現多元化芯片供應——最終目标要超越英偉達(beyond Nvidia)。
早在 2022 年,OpenAI CEO 奧特曼(Sam Altman)就公開抱怨英偉達 GPU 芯片稀缺,稱公司受到 GPU 的嚴重限制。
由于英偉達主導了全球 95% 的 Al 訓練領域市場,随着英偉達 GPU(圖形處理器)顯卡稀缺,加上 AI 算力成本持續攀升,即便強如 OpenAI 也在尋找新方案,從而避免長期被 " 卡脖子 "。
OpenAI CEO 奧特曼(Sam Altman)
算力成本猛增,OpenAI 尋求定制 AI 芯片
2023 年至今,以 ChatGPT 爲代表 AI 大模型 " 熱潮 " 席卷全球,大模型正推動 AI 向更通用方向發展。而算力的稀缺和昂貴已成爲制約 AI 發展的核心因素。
目前,英偉達占據全球數據中心 AI 加速市場 82% 的份額,且以 95% 的市場占有率壟斷了全球 Al 訓練領域的市場,成爲這輪 AI 混戰中最大赢家。作爲公司創始人、CEO,黃仁勳賺的盆滿缽滿,公司市值超越 1 萬億美元,他的身價也高達 399 億美元。
同時,算力需求的激增,也導緻英偉達 GPU" 一卡難求 "。有多少英偉達 A100 顯卡,已經成爲衡量一個公司算力的标準。
據統計,OpenAI 使用了 1 萬 -3 萬顆英偉達 GPU 來訓練 GPT-3.5 模型。集邦咨詢報告顯示,如果以英偉達 A100 顯卡的處理能力計算,運行 ChatGPT 将可能需要使用到 3 萬塊英偉達 GPU 顯卡。
價格方面,目前國内可以買到的 H800 價格已經高達 20 萬 / 張,而 A100/A800 價格已漲至 15 萬、10 萬 / 張左右。以 2000P 算力需求爲例,H800 GPU 單卡算力 2P,需要 1000 張,預測用卡成本爲 2 億元;A800 單卡算力約爲 0.625P,需要數量爲 3200 張,預計用卡成本就高達 3.2 億元。
除了買 GPU 顯卡,服務器還要考慮整機配置運算,包括 CPU、存儲、NV-Link 通訊連接等,以及電力消耗、場地租金和運維成本等因素,整個成本要超過 6 億元以上,OpenAI 則正在使用微軟超級昂貴的超級計算機,耗資數億美元、用英偉達數萬顆芯片的 Azure 雲進行算力訓練。
但是,自 OpenAI 公布 GPT 企業雲業務以來,微軟與 OpenAI 關系正漸行漸遠,有消息顯示,微軟也在開發定制 AI 芯片。
事實上,不止是 OpenAI,這一波算力需求浪潮中,谷歌、亞馬遜、微軟、Meta 等大科技巨頭公司都一直在設計 AI 芯片到業務當中。例如,谷歌最新發布的 Pixel 8 系列手機采用 Google Tensor G3 芯片和 Titan M2 協處理器,均是谷歌自研産品;而亞馬遜最新發布的自研 ARM 服務器 CPU 芯片 Graviton 3E,也應用于其 AWS 雲業務當中。
然而,OpenAI 沒有研發 AI 芯片的經驗,一顆芯片從立項到量産至少兩年以上的時間,目前尚不清楚 OpenAI 是否會繼續推進定制芯片計劃,而且芯片的成效如何也有待時間檢驗。
外媒引述業内人士稱,這是一項巨額投資,每年研發成本可能高達數億美元。同時,OpenAI 正考慮收購一些 AI 芯片公司以加快自研芯片進程。
但定制 AI 芯片可能需要數年時間,這意味着,OpenAI 仍會長期以來英偉達、AMD 等芯片供應商。
有趣的是,The information 于 10 月 4 日報道稱,Meta 公司放棄定制 VR/AR 芯片,團隊已解散,轉而使用芯片高通提供的處理器芯片。
因此,OpenAI 這款定制 AI 芯片最終是否真的可用,仍需時間檢驗。
另有消息顯示,軟銀計劃投資 10 億美元與奧特曼一起建立新的 AI 硬件公司,而蘋果設計師 Jony Ive 也和奧特曼讨論打造一款新的 AI 硬件産品。
大模型市場競争加劇,谷歌、亞馬遜轉投 OpenAI 競争對手
就在亞馬遜宣布投資幾天後,傳出 OpenAI 的競争對手、人工智能(AI)獨角獸公司 Anthropic 正進行再融資。
據 The information 10 月 4 日報道,成立僅兩年的 Anthropic 公司正在與谷歌和其它投資人談判,計劃再完成至少 20 億美元(約合人民币 143.94 億元)的新一輪融資,投後估值或将達到 200-300 億美金之間——是今年 3 月公司 40 億估值的 5 倍以上。
随後,AI 大模型市場競争加劇,谷歌、亞馬遜也開始關注并布局 OpenAI 的競争對手。
據悉,Anthropic AI 公司于 2021 年、由 OpenAI 前研究副總裁達裏奧 · 阿莫迪(Dario Amodei)、GPT-3 論文一作 Tom Brown 等人建立。當時,Amodei 領導的研究人員在對公司的發展方向存在分歧後離開了 OpenAI,他們擔心微軟對 OpenAI 的投資會使其走上更加商業化的道路,偏離公司最初想法。
2022 年 12 月,Anthropic 團隊在 arxiv 上發布了一篇題爲《Constitutional AI: Harmlessness from AI Feedback》論文,描述了一個基于無監督方式訓練、520 億參數的模型 AnthropicLM v4-s3,直接對标 OpenAI 的 GPT-3 模型。
今年 1 月,Anthropic 發布了基于 AnthropicLM v4-s3、新的 AI 聊天機器人模型産品 Claude,被認爲是 ChatGPT 的有力競品。
今年 2 月 4 日,谷歌旗下雲計算部門 Google Cloud 宣布與 Anthropic 建立新的合作夥伴關系,而且消息指谷歌向 Anthropic 投資接近 4 億美元(約合人民币 20.3 億元),新融資将使 Anthropic 投後估值增至近 50 億美元。
谷歌投資之前,Anthropic 公司已籌集超過 7 億美元融資,投資者包括 FTX 創始人 SBF 成立的加密貨币對沖基金 Alameda Research 等。而谷歌投資 Anthropic 原因之一,是公司 CEO 多次表達 ChatGPT 對于其搜索、廣告等業務帶來的威脅與影響。
據 The information 報道,Anthropic 向投資者表示,此前公司年收入一直在 1 億美元左右,但由于與亞馬遜深度合作,預計其 2023 年收入大幅增長,将達到 2 億美元,月收入接近 1700 萬美元;到 2024 年底,Anthropic 希望年收入将達到 5 億美元,是 Anthropic 估值的 1/200 倍,遠高于 OpenAI 的估值倍數。