蘋果放棄探索了十年之久的電動汽車項目、全面轉向 AI,無疑是最近幾天科技圈的頭版頭條。近日在蘋果公司舉行的年度股東大會上 CEO 蒂姆 · 庫克表示,該公司在人工智能方面 " 投入了大量資金 ",并将于今年晚些時候宣布一項重大公告。此外他還談及," 所有由蘋果芯片驅動的 Mac 都是非常強大的人工智能機器。事實上,目前市面上用于人工智能的電腦,沒有比 Mac 更好的。"
" 生成式人工智能具有令人難以置信的突破潛力,将爲用戶在生産力、解決問題等方面帶來變革性的機會 ",這般表态與庫克一貫的謀定而後動的慣例俨然也形成了鮮明的對比。其實也不怪他一反常态,畢竟目前蘋果力推的 " 空間計算 " 概念也遇到了 " 既生瑜何生亮 " 的難題,OpenAI 所引領的 AI 狂潮幾乎将所有注意力給吸走了。因此現在的情況,是在 AI 領域蘋果俨然已處于落後狀态。
且不提作爲領軍者的 OpenAI,谷歌有 Bard、Gemini,Meta 有開源大模型 LLaMA 2,微軟有 Copilot,亞馬遜有 Amazon Q,而蘋果則隻有一個在傳聞中的生成式 AI 模型 "AppleGPT"。其号稱擁有 2000 億參數,在語言理解和生成方面具有高度複雜性和強大的解析力,但 AppleGPT 畢竟還沒有落地。所以如今的現實,是從 2022 年的 Stable Diffusion 引爆生成式 AI 這一概念以來,接近兩年時間蘋果在這個賽道幾乎是毫無建樹。
一手好牌打的稀爛,這似乎是如今蘋果在 AI 領域最恰當的形容。蘋果的統一内存架構則是該公司在 AI 賽道最強的一張牌,庫克說目前市面上用于人工智能的電腦沒有比 Mac 更好的,其實并非吹牛,AI PC 這個概念的旗手原本應是蘋果才對。衆所周知,算力就是 AI 時代的 " 石油 ",英偉達在這兩年一飛沖天、達到市值接近 2 萬億美元曆史頂點,無疑就是因爲他們掌握了算力供給。
然而在算力之外,一個極少被提及的概念 " 内存牆 ",卻是另一個影響大模型性能的主要因素。而參數量則是大模型性能的基礎,參數越大、性能才能越高,以至于大模型相關廠商在參數規模上可以說是競相大放衛星。可随着 AI 大模型參數量的不斷增長,内存不夠的問題也已經逐漸凸顯,"CUDA out of memory" 這樣的報錯提示已經成爲了如今 AI 從業者最不願意看到的代碼。
"CUDA out of memory" 是指使用 CUDA 進行計算時,GPU 内存不足所導緻的錯誤,這個問題往往出現在需要處理大量數據的時候,這也是爲什麽在購買用于 AI 的 GPU 時,顯存同樣也是最爲核心的指标之一。例如伯克利 AI 實驗室的學者 Amir Gholami 就曾表示,未來内存牆将是比算力更大的瓶頸。
Amir Gholami 的研究團隊發現,Transformer 架構的大模型尺寸以每兩年 410 倍的速度瘋狂增長,而 GPU 作爲 AI 算力的基座,其内存容量增長速度卻隻有每兩年 2 倍。因此也使得 GPU 内存容量嚴重制約了可訓練的模型規模和算力提升速度,并成爲了阻礙 AI 技術發展與落地的重要瓶頸。如今 GPU 顯存隻有 8GB 的水平,那麽無論開發者如何進行優化,想要容納一個千億參數的大模型顯然也是巧婦難爲無米之炊。
爲此,英偉達給出的解決方案是構建 GPU 集群來提供聚合的更大内存。比如說目前 AI 大模型的 " 硬通貨 "DGX H100 系統,其核心是 8 個 H100 GPU,一共可以提供 640GB 的 GPU 内存。然而這個方案的問題在于成本高昂,售價更是高達 30 萬美元以上,且無法逾越 GPU 間的 " 通信牆 ",也就是數據交換時、由于訪問帶寬和延遲的限制導緻性能下降。
作爲英偉達在 GPU 領域的老對手,AMD 的策略則是弱算力 + 大内存。AMD 此前在 "Advancing AI" 活動上推出于大模型訓練和推理的 MI300X GPU 時,蘇姿豐博士就特别強調到,"MI300X 的使命是緩解大模型分布式訓推所面臨的内存制約和互連制約 "。
與英偉達的 H100 相比,MI300X 的高帶寬内存密度最高可達 H100 的 2.4 倍,高帶寬内存帶寬最高可達 H100 的 1.6 倍。也就是說,MI300X 能運行比 H100 更大的 AI 模型。
這樣看來,蘋果的統一内存架構與 AI 大模型豈不是天作之合,Apple Silicon 芯片甚至都不用重新設計,直接就能作爲推理卡使用。當其他廠商還在苦苦尋找如何将端側大模型部署在 PC 上,以期讓 AI PC 名副其實時,蘋果卻對已經打好地基的端側 AIGC 生态 " 不屑一顧 "。君不見過去兩年如火如荼的 AI PC 概念,蘋果此前從來就沒有将 Ma 與其聯系到一起。
好在,蘋果方面終于還是意識到了搭載自研芯片的 Mac 在 AI 運算能力方面的優勢,隻不過這一天到來似乎有點晚。從某種意義上來說,蘋果更像是在亡羊補牢。至于說爲什麽明明已經擁有了現實基礎,相關概念也得到了業界的追捧,蘋果早前卻一直無動于衷。當然是因爲今天的蘋果與當初推出 Apple II、iPhone 4 的蘋果,不是一個企業了。
誠然,蘋果是以破壞式創新起家、乃至走向輝煌,當初 iPhone 4 給市場帶來了與以往截然不同的價值主張,更是砸掉了功能機的飯碗、開啓了智能手機時代。然而随着蘋果吃到了智能手機時代最大的一塊蛋糕、将市值推向 2.8 萬億美元,大企業病也就随之而來。
蘋果造車失敗、iPhone 被诟病隻有 " 參數升級 "、卻缺乏 " 技術創新 ",乃至在 AI 上的落後,或許皆因同一個原因,即某位蘋果高層察覺了新興賽道的機遇,也難以下定決心在前途未蔔的情況下将個人在公司内的未來推上賭桌。盡管财大氣粗的蘋果公司可以承受失敗帶來的沖擊,但員工可能經不起這樣的失敗。
【本文圖片來自網絡】