LLMDeployASCEND · DEPLOYMENT NOTESView on GitHub ↗
DOCUMENTATION / 昇腾部署实践

A5 / 950DT / vLLM Ascend

此入口整理既有单机单 OS、8 卡 950DT 方案,不移动原配方路径,不改变引擎或线上配置。使用经验不构成适用性或性能保证,敏感信息不提供,见免责声明。

内容 权威入口
模型、软件、并行及容量 recipe.json
权重文件与 SHA model-files.json
私有机器配置起点 950dt8.example.json
镜像与构建 image-build.md
换机、生成命令、验收及回退 migration.md
历史范围 部署记录、机器可读记录
python3 scripts/verify_model.py --root /srv/models/DeepSeek-V4.1-Flash-1017 --full
python3 scripts/render.py --host local/host.json --output local/run.sh
bash -n local/run.sh

先审阅生成文件,确认归属及八卡空闲,再显式执行。生成成功不是部署完成;精确限制以配方为准。共享网关、通知与恢复见服务导航。

本文源于仓库文档 · 查看 Markdown 源文件
仅分享已使用经验;新环境与新工件需重新验证。敏感信息不提供。