回上列表
DeepSeek開源推理框架DeepInfer及編解碼組件 冀降低算力成本推動普惠
2026/10/20 17:19
DeepSeek宣布，在此前開源一系列大模型、TileLang編譯工具及推理算子庫基礎上，進一步將內部推理框架DeepInfer全面開源，並同步開源生產級Token編解碼組件deepseek-recipe，與DeepSeek官方API處理邏輯完整對齊，確保社區獲得與官方部署一致的API體驗。

DeepSeek表示，推理框架負責統籌調度龐大算力集群，其效率直接決定AI服務的算力成本與電力消耗，開源內部部署經驗可幫助開發者及企業優化大規模推理的吞吐與延遲，降低算力成本、減少能源消耗，期望可幫助開發者與企業組織優化大規模推理的吞吐與延遲，從而高效構建私有化及公有雲部署，降低算力成本、減少能源消耗，讓智能以更低的價格觸達更廣泛的人群，實現真正的大模型普惠。

基於DeepInfer已實現DeepSeek V4.1 Flash高吞吐、低延遲的大規模推理服務，DeepSeek表示，未來新模型推理代碼及後續優化亦將持續更新。(gc/da)~

阿思達克財經新聞
網址: www.aastocks.com