adtestbench Higgsfield
繁中

AI 新聞 · DeepSeek · 開源

DeepSeek 開源自家 AI 服務背後的推論引擎

DeepSeek 用來提供 V4.1 Flash 模型服務的軟體 DeepInfer,現已在 GitHub 免費開放,支援 Nvidia Blackwell 與 Huawei Ascend 晶片。

作者:Alexandre S. ,05:45 UTC

DeepSeek 於 2026 年 10 月 20 日(週二)把對外提供 AI 模型服務所用的軟體 DeepInfer,以免費開源程式碼的形式發布在 GitHub。這類軟體稱為推論框架,能讓訓練好的模型同時為數百萬使用者產出回答,因此在很大程度上決定了營運成本。

復古未來風插畫:星空下,條紋夕陽映照格線地平線,地平線上矗立著機器人圖案。
adtestbench 依 「DeepInfer: High-performance, large-scale inference framework for DeepSeek models」 繪製,

目前它只支援 DeepSeek-V4.1-Flash 這一款模型,涵蓋 Huawei 的 Ascend 950 晶片,以及 Nvidia 的 Blackwell 顯示晶片。SiliconANGLE 報導,根據程式碼隨附的部署說明,DeepSeek 一個叢集每天要處理 155 兆個 token(token 是一小段文字)。以離峰價格計算,每顆晶片每小時可賺 38 美元。

有兩個部分仍未公開:負責把工作分配到多台機器的程式碼,以及管理模型短期記憶的程式碼。DeepSeek 表示,這兩者都依賴公司內部系統。程式碼採用 Apache 2.0 授權,允許商業用途。

PYMNTS 報導,DeepSeek 在 X 的貼文中表示,這次釋出的目的是降低運算成本與能源消耗。在此前一天,美國才剛要求聯邦民間機構移除 DeepSeek 的產品。

對自行代管開放模型的團隊來說,大型業者在正式環境使用的程式碼,現在大部分都能免費複製和修改。