衆所周知,人工智能新星 OpenAI 将實現通用人工智能(AGI)視爲公司的曆史使命,老牌科技巨頭谷歌旗下 DeepMind 也制定了同樣的目标,如今,此前押寶元宇宙巨虧的科技巨頭 Meta 也加入了 AGI 大軍。
" 我們需要打造通用(人工)智能,"Meta 首席執行官紮克伯格在接受科技媒體 The Verge 的最新采訪中表示。
The Verge 文章稱,雖然紮克伯格還沒有制定實現 AGI 的具體時間表,甚至還沒對其進行明确的定義,但從公司近期的一系列動作來看,紮克伯格的目标是實現 AGI,甚至可能最終将其開源。
AI 部門重大重組,加速訓練 Llama 3,到年底手握 35 萬張 H100,Meta 全速跑進 AGI 賽道
人工智能研究小組調入公司直屬産品部門,拉攏關鍵技術人才
首先,Meta 産品部門将在 2024 年進行重大重組——人工智能研究小組 FAIR 調入公司直屬的産品部門。
其副總裁 Joelle Pineau 和首席人工智能科學家 Yann LeCun 将直接向 Meta 首席産品官 Chris Cox 彙報工作,此前他們向 Meta 旗下 Reality Labs 部門的首席技術官 Andrew 'Boz' Bosworth 彙報。
重組後的團隊将在 Meta 各類應用中開發生成式人工智能産品,讓其數十億用戶接觸時下最火爆的 AI 技術。
" 我們認爲,爲了打造我們想要打造的産品,我們需要打造通用(人工)智能," 紮克伯格早前接受 The Verge 采訪時表示," 我認爲傳達這一點很重要,因爲許多最優秀的研究人員都希望緻力于解決更雄心勃勃的問題。"
從紮克伯格的話裏可以嗅到,AI 領域的人才争奪從未像現在這樣激烈。
據報道,AI 開發人員最高能拿到超過 100 萬美元的年薪,令人瞠目結舌。像紮克伯格這樣的 CEO 經常要拉攏關鍵技術人才,防止被競争對手撬牆角。
" 我們已經習慣了相當激烈的人才争奪戰," 紮克伯格說," 但這裏的情況不同,多家公司都追求相同的目标,(并且)許多風投和散戶向不同的項目投入資金。"
Llama 3 推理、規劃能力大升級
當地時間周五,紮克伯格在 Instagram 上更新動态,透露 Meta 目前正在訓練 Llama 3。據 The Verge 稱,Llama 3 将不僅有 Llama 2 的代碼生成功能,還将具備更高級的推理和規劃能力。
正如紮克伯格所解釋的那樣,Meta 對 AGI 的關注受到去年發布的大模型 Llama 2 的影響。
Meta 認爲,Llama 2 的編碼能力對于普通用戶在 Meta 的應用程序中使用大型語言模型(LLM)沒有意義,但它是構建更智能 AI 模型的一項重要技能。
"Llama 2 不是行業領先的模型,但它是最好的開源模型," 紮克伯格說," 對于 Llama 3 及更高級的版本,我們的目标是打造最先進的産品,并最終成爲行業領先的模型。"
到年底拿到 35 萬張 H100,芯片庫存達到近 60 萬
除了人才之外,AI 領域最稀缺的資源是訓練和運行大型模型所需的計算能力。在這個問題上,紮克伯格似乎已經做好準備。
紮克伯格在 Instagram 上透露,到今年年底,Meta 将擁有大約 35 萬張英偉達 H100,如果包括其他 GPU,将有大約 60 萬塊 H100 等效算力。
紮克伯格說:" 我們已經建立了這樣的能力,其規模可能比任何其他獨立公司都大。"
外部研究預計 Meta 的 H100 到貨量到 2023 年将達到 15 萬張,與微軟的到貨量持平,至少比其他公司高出三倍。
Meta AGI,可能開源!
AGI 是超級強大的人工智能,如果被賦予不适當的目标和動機,可能會對人類社會産生災難性後果。因此,誰将控制 AGI 一直存在争議,OpenAI 内部最近出現的分歧就體現了這一點。
由于紮克伯格通過持股對 Meta 擁有投票控制權,他在公司内部擁有絕對權力,可以單獨決定 AGI 的設計方向和目标。如果有朝一日 AGI 在 Meta 成爲現實,如果設計不當,紮克伯格的決策可能會導緻 Meta 開發出對人類有害的 AGI。
針對這一擔憂,紮克伯格并沒有做出正面回應,但他指出,Meta 目前的語言模型 Llama 在大多數情況下是開源的。
" 隻要它有意義并且是安全和負責任的事情,那麽我們通常會傾向于開源," 他說," 顯然,你不想因爲你說過你會做某事就一定會做。"
" 我傾向于認爲,這裏更大的挑戰之一是,如果你構建了真正有價值的東西,那麽它最終會變得非常集中," 紮克伯格說," 然而,如果你讓它更加開放,那麽就可以解決由于機會和價值不平等而可能産生的一大類問題。所以這是整個開源願景的重要組成部分。"
與此同時,從商業策略上看,紮克伯格認爲,Meta 迄今爲止部署的模型尚未對公司經營造成災難性的損害。
" 在很多情況下,那些一開始就擁有最大領先優勢的最大公司也是那些呼籲最多的公司,他們說需要爲其他人如何構建人工智能設置必要的護欄。" " 我确信他們中的一些人對公司安全的擔憂是合理的,但這種做法與這些企業的商業策略和利益高度一緻。"
當前,紮克伯格支持開源也有自己的動機,他表示,大模型開源的最終結果仍然是技術的壟斷和集中,隻是形式不同。
Meta 擁有比全球其他任何一家公司都多的用戶,并且其社交媒體業務利潤豐厚。因此,人工智能可以讓他的平台用戶更具粘性。如果 Meta 能夠通過公開發布模型來有效規範 AI 的發展,那麽它對生态系統的影響力隻會越來越大。