智東西(公衆号:zhidxcom)
編譯 | 香草
編輯 | 李水青
智東西 8 月 10 日消息,據外媒報道,國内互聯網巨頭正在搶購高性能的英偉達(NVIDIA)芯片,用于構建生成式 AI 系統。
據知情人士透露,百度、字節跳動、騰訊和阿裏已向英偉達訂購了價值 10 億美元的共約 10 萬張 A800 芯片,将于年内交付,另外價值 40 億美元的芯片将于 2024 年交付。
兩名了解此事的字節員工表示,其公司已儲備了至少 1 萬張英偉達芯片,并訂購了近 7 萬張 A800 芯片,将于明年交付,價值約 7 億美元。
A800 芯片是英偉達用于數據中心的尖端芯片 A100 的 " 替代版 ",爲中國市場專供。由于華盛頓去年爲遏制中國技術而實施的出口限制,國内科技公司隻能購買數據傳輸速率低于 A100 的 A800。
英偉達發言人稱,消費互聯網公司和雲服務提供商每年都會在數據中心組件上投資數十億美元,往往提前好幾個月就下訂單。
随着生成式 AI 的熱度高漲,許多科技公司都在開發自己的大語言模型。英偉達的芯片成爲全球科技公司的熱門産品,爲大語言模型的開發提供了強大的計算能力支撐。
據知情人士透露,字節跳動有許多小團隊正在開發各種生成式 AI 産品,其中包括一款代号爲 Grace 的聊天機器人,目前正在進行内部測試。今年 5 月,字節跳動曾在其社交媒體應用 TikTok 上測試了聊天機器人 Tako;又在 6 月推出了大模型 B 端業務 " 火山方舟 ",供企業試用不同的大語言模型服務。
▲聊天機器人 Tako 測試截圖(圖源:Watchful)
騰訊雲于 4 月發布了一個新的服務器集群,采用英偉達 H800 芯片,可以支持大語言模型訓練、自動駕駛和科學計算。阿裏也囤積了數千塊 H800 芯片,計劃将其所有産品都納入大語言模型,包括淘寶和高德地圖等。百度也開發了自己的聊天機器人,名爲文心一言。
然而,大語言模型訓練需求的增長也導緻全球芯片庫存不足,從而導緻芯片的成本也在增長。一位英偉達經銷商稱,其手中的 A800 芯片價格上漲了 50% 以上。
結語:大模型熱潮或引發芯片供應不足
阿裏、字節等互聯網巨頭向英偉達下單訂購 50 億美元芯片,預計在今年和明年陸續交付。大量的芯片需求主要是出于 AI 産品開發的需要,其背後的大語言模型訓練需要強大的算力支撐。
在生成式 AI 這個科技熱潮下,大廠們都想交出一份令用戶滿意的答卷。然而,芯片的供需不平衡等也是不可忽視的問題。