IT 之家 1 月 3 日消息,創鑫智慧(Neuchips)近日發布新聞稿,宣布将參加 2024 年 CES 大展,将推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 産品。
IT 之家注:Raptor Gen AI 加速卡此前稱爲 N3000,幫助企業在現有解決方案情況下,小成本部署大型語言模型(LLM)。
Neuchips 首席執行官 Ken Lau 在新聞稿中表示:
我們很高興能在 2024 年消費電子展上向業界推出我們的 Raptor 芯片和 Evo 卡。
Neuchips 的解決方案代表了自然語言處理從價格到性能的巨大飛躍
通過 Neuchips 的新産品,任何組織現在都可以利用 LLM 的強大功能來實現廣泛的人工智能應用。
根據新聞稿,Raptor Gen AI 加速卡的每秒算力爲 200 TOPS,在矩陣乘法、矢量和嵌入表查找等 AI 推斷運算方面表現出色,适合生成式 AI 等場景。
Evo 加速卡采用 8 通道 PCIe Gen5 和 32GB LPDDR5 内存,主機 I / O 帶寬爲 64GB/s,内存帶寬爲 1.6Tbps,單卡功耗僅爲 55W。
Evo 還具有 100% 的可擴展性,客戶可以通過輕松添加更多芯片來線性提高性能。Neuchips 指出,這種模塊化設計有助于确保客戶爲未來的人工智能工作負載進行投資生産。
此外,Neuchips 還在預告其即将推出的半高半長(HHHL)外形産品 Viper,該産品将于 2024 年下半年推出。該公司表示,Viper 将擁有 " 更大的部署靈活性 ",以緊湊、小巧的設計帶來數據中心級人工智能加速。