“矽仙人”吐槽英偉達 CUDA：是樹沼，而非護城河

IT 之家 2 月 20 日消息，有 " 矽仙人 " 稱号的吉姆・凱勒近日發布推文，表示 "CUDA 是樹沼，而非護城河，X86 也是樹沼"。

凱勒在後續推文中表示：

CUDA 毫無美感，隻是粗暴地堆砌而成。

基本上沒有人會寫 CUDA，即便是寫了相關代碼，其執行速度也不快。

這也是爲何 Triton、Tensor RT、Neon、Mojo 孕育而出的原因。

IT 之家注：CUDA 工具包是 NVIDIA 爲開發人員提供的一個軟件套件，它讓開發人員使用 NVIDIA 的圖形處理單元（GPU）來運行通用計算任務，特别是那些需要大量并行處理能力的任務。

凱勒認爲 CUDA 像 X86 一樣，英偉達爲了确保軟件和硬件的向後兼容性，逐步增加功能的過程中拖慢了性能，增加了程序開發的難度。與此同時，許多開源軟件開發框架可以比 CUDA 更高效地使用。

就連 Nvidia 本身也有不完全依賴 CUDA 的工具。

例如，Triton Inference Server 是 Nvidia 的一款開源工具，可簡化人工智能模型的大規模部署，支持 TensorFlow、PyTorch 和 ONNX 等框架。

Triton 還提供模型版本化、多模型服務和并發模型執行等功能，以優化 GPU 和 CPU 資源的利用率。