The Decoder· Matthias Bastian·· 2 小时前精选AI 评分77
深度求索（DeepSeek）开源 V4.1-Flash 推理框架 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
深度求索（DeepSeek）以 Apache License 2.0 开源内部推理框架 DeepInfer，用于支撑 V4.1-Flash 的大规模快速推理。该框架基于 vLLM，加入优化计算内核、多芯片分布式处理和更快的文本生成技术；配套发布的 deepseek-recipe 可复现官方 DeepSeek API 的 token 处理，使自托管环境保持一致的行为。
推荐理由
材料给出了 DeepInfer 的计算内核、多芯片分布式处理和官方 API token 处理复现方案，为自托管部署与成本优化提供参考。
来源：The Decoder · the-decoder.com