本地部署
浏览与「本地部署」相关的文章,了解相关技术与实践
全部文章
教程与实践约 3 分钟
DeepInfer 怎么用:DeepSeek-V4.1-Flash 本地离线推理快速入门指南
本文详解 DeepInfer 运行 DeepSeek-V4.1-Flash 离线推理的完整实操指南,涵盖 Linux、GCC 13、CUDA 13 与 CANN 9.2 环境要求,本地模型权重路径指定,以及草稿 Token 加速、批次无关推理与确定性采样等关键参数配置与验证技巧。
浏览与「本地部署」相关的文章,了解相关技术与实践
本文详解 DeepInfer 运行 DeepSeek-V4.1-Flash 离线推理的完整实操指南,涵盖 Linux、GCC 13、CUDA 13 与 CANN 9.2 环境要求,本地模型权重路径指定,以及草稿 Token 加速、批次无关推理与确定性采样等关键参数配置与验证技巧。