最近《紐約客》報道,ChatGPT 每日耗電量或超過 50 萬千瓦時,相當于美國家庭平均用電量的 1.7 萬倍。埃隆 · 馬斯克也曾預言,未來兩年内電能短缺将成爲制約 AI 發展的主要因素。然而,事實真的是這樣嗎?
目前關于 AI 耗電量的觀點主要源自估算結果,而非真實的測量數據。美國信息技術與創新基金會(ITIF)發布的報告認爲,個别不準确的研究大大高估了 AI 的能耗,這樣的言論可能對 AI 發展造成不利影響,阻礙 AI 在促進節能減排、應對環境挑戰方面發揮潛力。業界人士呼籲,應當促進行業信息透明,同時減少 AI 技術的濫用。
AI 能耗評估難題:
影響因素衆多
ITIF 是一家非營利智庫,總部位于美國華盛頓。在這份題爲《重新審視對人工智能能耗的擔憂》的報告中,ITIF 指出,不同 AI 模型的能耗和碳排放存在巨大差異,受到諸多因素的影響,包括芯片設計、冷卻系統、數據中心設計、軟件技術、工作負擔、電能來源等。
所以,在估算 AI 的能耗方面,不同研究的結論出現了較大分歧。2019 年馬薩諸塞大學阿默斯特分校團隊發布的一項預印本研究估算,當時領先的谷歌公司大語言模型 BERT 在 79 小時的訓練過程中排放了約 1438 磅二氧化碳(約合 652 千克),量級相當于一名乘客乘坐飛機往返于紐約和舊金山一次。研究也對 AI 神經架構搜索(NAS)等技術得出了類似結論。這篇論文在谷歌學術被引用接近 3000 次,并得到了大量媒體報道。
然而,從事 AI 研發的企業和機構得出了截然不同的分析結論。2021 年,谷歌公司與加州大學伯克利分校發布一項預印本研究認爲,前述研究将谷歌的 AI 碳排放數值高估了 88 倍。但是這項研究得到的關注遠不如前者,被引數僅有 500 左右。
圖庫版權圖片,轉載使用可能引發版權糾紛
由于媒體和公衆關注負面信息的傾向,結論驚人的研究更容易得到傳播。科技行業名人的言行也在放大 " AI 能耗巨大 " 的信息,馬斯克曾預言 " 制約 AI 發展的因素将由‘缺矽’變成‘缺電’ ";Open AI CEO 薩姆 · 阿爾特曼也表示 AI 将消耗更多電力,并高調投資核聚變。
從全生命周期視角
評估 AI 能耗
ITIF 報告指出,目前許多研究和政策都關注 AI 訓練(training)階段,但多項研究表明 AI 在推理(inference)過程中,也即人們使用 AI 輸出結果的過程能耗更高。此外,不同 AI 模型處理不同類型的推理任務,能耗的差異也很大。例如 1000 次請求計算,圖片分類任務的耗電量是 0.007 千瓦時,而圖片生成任務耗電 2.907 千瓦時。
報告作者指出,AI 的訓練是一次性事件,而它的使用是長期過程,讨論 AI 能耗問題時應該關注的不是爆發式增長,而是長期的影響。并且,從技術史的視角看來,AI 及其能耗的增長還将受到以下 4 個因素的限制:
1
基礎設施建設成本将制約 AI 的快速增長
"ChatGPT 每日耗電量或超過 50 萬千瓦時 " 的結論,出自技術博客 Digiconomist 作者亞曆克斯 · 德 · 弗裏斯(Alex de Vries)的估算。德 · 弗裏斯還曾預測,在最糟糕的情況下,谷歌的 AI 用電量将與整個愛爾蘭相當,達到每年 29.3 TWh(太瓦時)。但他同時也指出,要想達到這樣的規模,谷歌需要在芯片上投入 1000 億美元,此外還要數據中心的運營和電費投入數十億美元。如果 AI 的運營成本居高不下,逐利的商業公司自然會放慢腳步,減少投入。
2
AI 性能增長存在邊際效應
近年來 AI 連續在許多領域取得了突破性進展,這也意味着它可能很快迎來一個瓶頸期。研發、運營更大的模型帶來的回報将越來越低,在提升準确性上精益求精也将變得更困難。所以,優化 AI 模型可能是接下來的研發方向。
3
軟件和硬件的性能提升将減少 AI 能耗
AI 模型的優化,以及硬件技術的進步,都有望減少 AI 的能耗。一項發表于《科學》期刊的研究指出,在 2010~2018 年間,全球數據中心的運算量增長了 550%,存儲空間增長了 2400%,但耗電量僅增長 6%。硬件、虛拟技術和數據中心設計方面的創新提升了能效,也使得雲計算的規模化成爲可能。
圖庫版權圖片,轉載使用可能引發版權糾紛
同樣,剪枝(pruning)、量化(quantization)、蒸餾(distillation)等技術有望帶來更好的算法,讓 AI 模型更快、更節能。谷歌公司和加州大學伯克利分校研究團隊指出,有賴于各項技術進步,近年來在谷歌公司内部 AI 的能耗占比保持穩定,盡管機器學習增長到運算量的 70%~80%。
4
AI 的應用最終将在某些方面減少碳排放
整體上,當人們用電子郵件替代傳統書信,用觀看 DVD 或流媒體頻道替代去電影院看電影,這些活動的數字化都減少了碳排放。AI 有望在這方面繼續發揮作用,例如通過改進視頻通話體驗,使更多的會議轉向遠程進行。此外,AI 技術還可用于進行電網調度、分析氣候數據,從而成爲應對氣候變化的助力。
準确評估 AI 能耗
促進領域健康發展
從曆史的角度看,關于 AI 碳排放的擔憂并不新鮮。90 年代曾有人預測,未來發電量的一半将用于滿足互聯網活動;在流媒體出現的時候,同樣有人提出類似觀點。如今我們知道,這些擔憂都并未成爲現實。ITIF 報告認爲,如果沒有完全理解 AI 能耗問題就急于進行管控,可能會阻礙 AI 的性能提升,限制其發展潛力。例如,使 AI 消除偏見和仇恨言論、避免輸出有害信息,都需要進行更多的推斷,從而提升能耗。
報告建議,應對大衆關于 AI 能耗問題的擔憂,決策者應當:
① 制定相應标準,使 AI 模型能耗公開透明;
② 鼓勵業界主動公開 AI 模型能耗信息,以便公衆進行知情選擇;
③ 考慮 AI 法規對能源使用的意外後果;
④ 利用 AI 實現政府運作的低碳化。
一些機構已經在推動 AI 的信息公開。2023 年 12 月,歐盟通過《人工智能法案》,這是全球首部 AI 監管法案。法案督促 AI 開發者緻力于使模型高能效、可持續,并要求進行相應的信息公開。
圖庫版權圖片,轉載使用可能引發版權糾紛
德 · 弗裏斯同樣呼籲進行信息公開,同時他希望及時限制 AI 的發展,就像限制加密貨币技術一樣。數字經濟學家(Digiconomist)博客指出:" AI 和先前的區塊鏈等新興技術的發展,伴随着大量的狂熱和錯失恐懼(FOMO),這通常會催生對終端用戶沒什麽益處的應用 。"
而在《紐約客》報道中,著名科學記者伊麗莎白 · 科爾伯特(Elizabeth Kolbert)的原話是:" 每當 ChatGPT 吐出信息(或給某人寫高中作文),都需要進行大量運算。據估計,ChatGPT 每天要響應約 2 億次請求,同時消耗超過 50 萬千瓦時電力。" 也就是說,要應對 AI 能耗危機,或許可以從限制使用 AI 寫作業開始。
參考文獻
[ 1 ] Elizabeth Kolbert. The Obscene Energy Demands of A.I.. The New Yorker. https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai. <2024-03-09/2024-03-09>
[ 2 ] Loz Blain. Elon Musk: AI will run out of electricity and transformers in 2025. New Atalas. https://newatlas.com/technology/elon-musk-ai/. <2024-03-01/2024-03-12>
[ 3 ] Daniel Castro. Rethinking Concerns About AI ’ s Energy Use. Center for Data Innovation. ITIF. https://itif.org/publications/2024/01/29/rethinking-concerns-about-ai-energy-use/. <2024-01-29/2024-03-04>
[ 4 ] Strubell, Emma, Ananya Ganesh, and Andrew McCallum. "Energy and policy considerations for deep learning in NLP." arXiv preprint arXiv:1906.02243 ( 2019 ) . https://arxiv.org/pdf/1906.02243.pdf
[ 5 ] Patterson, David, et al. "Carbon emissions and large neural network training." arXiv preprint arXiv:2104.10350 ( 2021 ) . https://arxiv.org/abs/2104.10350
[ 6 ] OpenAI CEO Altman says at Davos future AI depends on energy breakthrough. Reuters. https://www.reuters.com/technology/openai-ceo-altman-says-davos-future-ai-depends-energy-breakthrough-2024-01-16/. <2024-01-16/2024-03-12>
[ 7 ] de Vries, Alex. "The growing energy footprint of artificial intelligence." Joule 7.10 ( 2023 ) : 2191-2194.
https://www.cell.com/joule/pdf/S2542-4351 ( 23 ) 00365-3.pdf
[ 8 ] Eric Masanet et al., "Recalibrating Global Data Center Energy-Use Estimates," Science 367, no. 6481 ( February 28, 2020 ) : 984 – 86, https://doi.org/10.1126/science.aba3758.
[ 9 ] Patterson, David, et al. "The carbon footprint of machine learning training will plateau, then shrink." Computer 55.7 ( 2022 ) : 18-28.
[ 10 ] Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world. Council of the EU. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/. <2023-12-09/2024-03-12>
[ 11 ] Powering AI could use as much electricity as a small country. Digiconomist. https://digiconomist.net/powering-ai-could-use-as-much-electricity-as-a-small-country/ <2023-10-10/2024-03-12>
策劃制作
作者丨瑪雅藍 科普創作者
審核丨于旸 騰訊玄武實驗室負責人
策劃丨徐來 楊雅萍
責編丨何通
相關推薦
1. 韓國人開始吃綠色油炸牙簽,食品安全局發文提醒:請不要吃牙簽!
5. 要想活得好,不要吃太飽!經常吃太飽危害比你想象還大(不止變胖)
本文封面圖片及文内圖片來自版權圖庫
轉載使用可能引發版權糾紛
原創圖文轉載請後台回複 " 轉載 "
點亮 " 在看 "
一起漲知識!