文|林炜鑫
編輯|楊逍
近日,36 氪獲悉,中科加禾宣布完成數千萬元種子輪融資,由 BV 百度風投領投,晨山資本、陸石投資、奇績創壇、寒武紀、天創資本、光合基金跟投,指數資本擔任獨家财務顧問。本輪融資資金計劃用于産品研發和公司運營。
中科加禾聚焦芯片編譯與優化技術,緻力于爲我國大模型産業提供通用化、低成本、高性能的算力資源。
編譯器是一種計算機程序,就像一位翻譯,它能把高級編程語言翻譯成芯片可以理解并執行的機器語言。同時編譯器還要做優化,讓生成的機器代碼運行更高效。簡單來說,芯片編譯器就是程序員和芯片之間的橋梁,編譯器的質量直接影響到最終芯片的性能。
随着人工智能技術的發展,市場對 GPU 芯片和算力的需求在不斷擴大,編譯技術的作用受到更多重視。目前,英偉達在 AI 芯片市場一家獨大,爲 GPU 研發了包括編譯器和編程語言在内的 CUDA 系統。
中科加禾創始人崔慧敏告訴 36 氪,近幾年國産芯片的發展迅速,爲國産芯片的編譯軟件帶來了機會。從行業需求來看,AI 時代産生大量異構計算需求,并且應用場景廣泛,算子不斷更新叠代;CUDA 針對 GPU 的架構進行過特定的優化,與 GPU 架構不同的國産芯片不太可能完全移植 CUDA,爲了确保芯片可用,大多數國産芯片編譯器團隊做了很多針對各自芯片的算子定制化開發工作,這直接導緻了國産芯片的生态碎片化問題。
針對以上的諸多問題,崔慧敏認爲,國内需要一個可以支持多種後端芯片的編譯框架。" 我們要做的事就是打造一個支持多種國産芯片編譯的工具鏈,建立一套通用化、低成本、高性能的基礎軟件。同時通過我們的軟件,能讓用戶把英偉達上的應用程序無縫移植到國産芯片。" 崔慧敏說。
中科加禾現有三條産品線,包括大模型推理優化工具、CUDA 兼容編譯器和中長尾芯片定制編譯器。
大模型推理優化工具是公司現階段的主打産品線,它能支持多種 AI 芯片,通過編譯優化,使國産算力得到提升。崔慧敏介紹,大模型對芯片算力的需求很大,公司會對芯片做非常深度的優化,包括從上層到下層,每個層次都開展更深度的融合優化工作。這部分工作也得益于團隊前期的技術積累。崔慧敏說,英偉達的 A800 芯片通過這款産品來編譯優化,多卡推理速度可以達到 A100 芯片的 90% 以上。
中科加禾的核心技術是完全自研的支持多種國産芯片的虛拟指令集,采用類似 JVM 虛拟化的技術來構建跨平台的後端軟件棧。虛拟指令集的思想來源于英偉達的 PTX,PTX 在英偉達的生态中扮演着重要的位置,通過 PTX 的抽象屏蔽了不同代英偉達 GPU 的差距,同時不會對性能造成額外的影響。崔慧敏表示,研發團隊将設計針對 CPU、GPU、NPU 三大類芯片的虛拟指令集擴展,在設計編譯優化時按類别實施優化,芯片廠商再根據硬件細節精細調優。
目前,中科加禾已和國内頭部 AI 算力芯片和硬件設備廠商達成合作并開始産品研發。崔慧敏介紹,公司商業模式主要有三種:短期内将和芯片及服務器廠商合作,幫助其快速構建軟件棧,完成商業版工具産品或算力交付。發展到中期,将以出售公司研發的工具軟件許可證爲主。到長期,将和雲 / 數據中心進行合作,探索規模化擴展和複制的銷售模式。
創始人崔慧敏畢業于清華大學計算機系,是中科院計算所編譯團隊負責人,在芯片和編譯器領域頂級會議和期刊發表論文三十多篇。核心團隊是一支以中科院計算所作爲技術源頭的編譯器研發團隊,具備 20 年以上的編譯器開發經驗,曾作爲核心成員主持或參與過包括龍芯、神威、寒武紀、華爲昇騰等多款芯片的編譯器研發工作。
歡迎交流