IT 之家 3 月 2 日消息,DeepSeek 開源周正式收官,摩爾線程智能科技(北京)股份有限公司昨日晚發文宣布,在短時間内成功實現對 DeepSeek 各個開源項目的全面支持,涵蓋 FlashMLA、DeepEP、DeepGEMM、DualPipe 以及 Fire-Flyer 文件系統(3FS)。

IT 之家附摩爾線程支持 DeepSeek 開源周 " 全家桶 " 代碼合集如下:
FlashMLA
FlashMLA 是一款高效的 MLA(Multi-Head Latent Attention)推理内核開源倉庫,旨在加速 MLA 機制的計算,特别适用于 DeepSeek 系列模型(如 DeepSeek-V2、V3 和 R1)。
摩爾線程基于全新 MUSA Compute Capability 3.1 計算架構,可提供原生 FP8 計算能力,同時升級了高性能線性代數模闆庫 MUTLASS,快速支持了 FlashMLA。借助 MUTLASS 0.2.0,摩爾線程發布開源倉庫 MT-FlashMLA,能夠快速對 DeepSeek FlashMLA 進行兼容部署。
MT-FlashMLA 開源地址:
MUTLASS FlashAttention3 地址:
DeepEP
DeepEP 是一個用于 MoE(混合專家)模型訓練和推理的開源 EP(expert parallelism,專家并行)通信庫,主要适用于大模型訓練,特别是需要 EP 的集群訓練。它通過優化通信信道的使用率,顯著提升了訓練效率。摩爾線程基于 MUSA Compute Capability 3.1 全功能 GPU,第一時間适配了 DeepEP,支持以下特性:
高效優化的 All-to-All 通信,支持 dispatch & combine
支持 MTLink + GPU(MUSA Compute Capability 3.1)節點内通信
訓練及推理預填充階段的高吞吐量計算核心
推理解碼階段的低延遲計算核心
原生支持 FP8 數據分發
靈活控制 GPU 資源,實現計算與通信的高效重疊
MT-DeepEP 開源地址:DeepGEMM
DeepGEMM 是一個支持密集矩陣與混合專家(MoE)矩陣乘法的 FP8 GEMM 庫,爲 V3 / R1 的訓練與推理提供強大動力。這個開源倉庫基于高性能通用矩陣乘法(GEMM)的 C++ 模闆庫進行開發。摩爾線程基于 MUTLASS 在全新 GPU 架構上優化實現了 FP8 矩陣乘法,支持 DeepGEMM 的相應功能。
MUTLASS FP8 GEMM 地址:
DualPipe
DualPipe 是 DeepSeek-V3 提出的雙向流水線并行算法,通過前向計算與後向計算階段的計算與通信完全重疊,顯著減少了 " 流水線氣泡 "(設備空閑等待)。與傳統流水線并行相比,DualPipe 采用雙向數據流設計,使數據從兩端相向處理,大幅提升了資源利用率與訓練效率。
摩爾線程依托深度學習框架 Torch-MUSA(已開源)和 MUSA 軟件棧全方位的兼容性,實現了對 DualPipe 這一算法的高效支持。MT-DualPipe 可以完整接入摩爾線程 MT-Megatron 框架和 MT-TransformerEngine 框架(即将開源),實現 DeepSeek V3 訓練流程的完整複現。
MT-DualPipe 開源地址:
Torch-MUSA 開源地址:
3FS
Fire-Flyer 文件系統(3FS)是一種利用現代 SSD 和 RDMA 網絡的全部帶寬的并行文件系統,可以把固态硬盤的帶寬性能利用到極緻,在 V3 和 R1 的訓練與推理過程中,3FS 成爲關鍵支撐,以應對 AI 訓練和推理工作負載的挑戰。
摩爾線程在一天内迅速完成了高性能分布式文件系統 3FS 的搭建,并高效開發了存儲插件,成功實現與誇娥智算集群的無縫集成,爲 AI 訓練、AI 推理、科學計算等場景提供全棧存儲加速方案。
3FS CSI Driver 地址: