人腦作爲地球上最爲高效的計算設備,可以僅僅用 20w 的功率,1.3 公斤的質量,就能完成每秒 100 萬億次的運算量。
而現在人類最大的超級計算機 Hewlett Packard Enterprise Frontier,也能以完成和人腦計算量相似的計算,但是占地 680 平米,運行功率達到 2270 萬瓦。
這兩個數字之間的巨大能耗差異,凸顯出了人腦作爲計算設備構架上的先進性。而最近,澳大利亞的科學家宣布,他們開發了一台完全模仿人腦的超級計算機—— DeepSouth,将在明年 4 月份上線。
這将是世界上第一台能夠在人腦規模模拟神經元(數十億)和突觸(數萬億)網絡的超級計算機,可以模拟每秒 228 萬億次突觸操作。
西悉尼大學的 ICNS 團隊與來自悉尼大學、墨爾本大學和德國亞琛大學的神經形态領域的合作夥伴合作開發了這台超算。
這台超級計算機被命名爲 DeepSouth,是爲了向 IBM 的 TrueNorth 系統和 Deep Blue 緻敬。
西悉尼大學 ICNS 主任 André van Schaik 教授稱:
由于我們無法大規模模拟類腦網絡,我們對大腦如何使用神經元進行計算的理解的進展受到阻礙。使用圖形處理單元 ( GPU ) 和多核中央處理單元 ( CPU ) 在标準計算機上模拟脈沖神經網絡(Spiking Neural Networks)速度太慢且耗電。我們的系統将改變這一點。
這個平台将增進我們對大腦的理解,并在傳感、生物醫學、機器人、太空和大規模人工智能應用等不同領域開發大腦規模的計算應用。
根據 ICNS 的說法,這個超算主要的收益在這幾個地方:
- 極低功率完成超快速、大規模并行處理:大腦能夠以 20 瓦的功率處理相當于每秒 10^18 次的運算。
DeepSouth 使用模拟大腦工作方式的神經形态工程,可以快速處理大量數據,使用的電量少得多,同時比其他超級計算機小得多。
- 可擴展性:系統允許添加更多硬件來創建更大的系統,或者縮小規模以實現更小的便攜式或更經濟高效的應用程序。
- 可重新配置:利用現場可編程門陣列 ( Leveraging Field Programmable Gate Arrays,FPGA ) 促進硬件重新編程,從而能夠添加新的神經元模型、連接方案和學習規則,從而克服使用定制設計硬件的其他神經形态計算系統中出現的限制。
DeepSouth 将通過前端進行遠程訪問,該前端允許使用流行的編程語言 Python 描述神經模型和設計神經網絡。前端的開發使研究人員無需詳細了解硬件配置即可使用該平台。
- 商業可用性:利用商用硬件可确保硬件的持續改進,獨立于設計超級計算機的團隊,克服使用定制設計硬件的其他神經形态計算系統中出現的限制。
定制芯片需要大量時間來設計和制造,每個芯片的成本高達數千萬美元。使用商業現成的可配置硬件意味着該原型可以很容易在世界各地的數據中心複制。
- 人工智能:通過模仿大腦,将能夠創建比當前模型更有效的方式來執行人工智能流程。
晶體管的極限
而要理解這個「仿真人腦」和現在通用計算機的差别,還是要從現代計算機的構架入手。
1945 年 6 月 30 日,數學家和物理學家約翰 · 馮 · 諾依曼描述了一種新機器的設計——電子離散變量自動計算機 ( Edvac ) 。這有效地定義了我們所知的現代電子計算機。
智能手機、筆記本電腦以及世界上最強大的超級計算機都一直沿用馮 · 諾依曼在大約 80 年前引入的相同基本結構。它們都具有不同的處理和内存單元,其中數據和指令存儲在内存中并由處理器計算。
幾十年來,微芯片上的晶體管數量大約每兩年增加一倍,這一現象被稱爲摩爾定律。這使我們能夠擁有更小、更便宜的計算機。
然而,晶體管尺寸現在已接近原子尺度。在如此微小的尺寸下,計算過程中産生過多的熱量是一個很嚴重的問題。
這種被稱爲量子隧道效應的現象,會幹擾晶體管的功能。這使得摩爾定律代表的晶體管小型化之路越來越難以走下去。
爲了克服這個問題,科學家們正在探索新的計算方法,從都隐藏在頭腦中的強大計算機——人腦開始。
大腦并不按照約翰 · 馮 · 諾依曼的計算機模型工作。
它沒有單獨的計算和存儲區域。
相反,它們的工作原理是連接數十億個以電脈沖形式傳遞信息的神經細胞。信息可以通過稱爲突觸的連接點從一個神經元傳遞到下一個神經元。
大腦中神經元和突觸的組織是靈活的、可擴展的和高效的。
因此,與計算機不同的是,在大腦中,記憶和計算是由相同的神經元和突觸控制的。自 20 世紀 80 年代末以來,科學家們一直在研究這個模型,意圖将其導入計算中。
模仿生命
神經形态計算機基于簡單的基本處理器(其作用類似于大腦的神經元和突觸)的複雜網絡。這樣設計最主要優點是機器本質上是并行的。
這意味着,與神經元和突觸一樣,計算機中的幾乎所有處理器都可以同時運行,串聯通信。
此外,由于單個神經元和突觸執行的計算與傳統計算機相比非常簡單,因此能耗要小幾個數量級。
盡管神經元有時被認爲是處理單元,突觸被認爲是記憶單元,但它們有助于處理和存儲。換句話說,數據已經位于計算需要的地方,沒有分别用處理器和存儲器分開。
這總體上加快了大腦的計算速度,因爲内存和處理器之間沒有分離,這在經典(馮 · 諾依曼)機器中會導緻速度減慢。但它也避免了執行從主存儲器組件訪問數據的特定任務的需要,就像傳統計算系統中發生的那樣,并且消耗大量的能量。
這些原則是 DeepSouth 的主要靈感。
但這不是目前唯一活躍的神經形态系統。值得一提的是由歐盟倡議資助的人腦項目(HBP)。HBP 于 2013 年至 2023 年運行,并催生了 BrainScaleS,這是一台位于德國海德堡的機器,用于模拟神經元和突觸的工作方式。
由于神經形态計算機被設計用來模仿真實的大腦,因此它們可能是一個轉折點的開始。它們提供可持續且經濟實惠的計算能力,并允許研究人員評估神經系統模型,是一系列應用的理想平台。
它們有潛力促進人類對大腦的理解,并爲人工智能提供新的方法。