10月20日,DeepSeek表示,决定进一步将内部推理框架DeepInfer全面开源。基于DeepInfer,公司已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。
特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
10月20日,DeepSeek表示,决定进一步将内部推理框架DeepInfer全面开源。基于DeepInfer,公司已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。