A5 / ASCEND 950DT
昇腾大模型部署实践
按模型与推理框架选择部署方案,查看对应的配方、版本锁定和验证范围。
| 模型 | DeepInfer | vLLM Ascend |
|---|---|---|
| DeepSeek V4.1 Flash-1017 |
单机 8 卡 P/D 混部 双机 8P+8D 分离 双机 16 卡 EP16 混部 | 单机 8 卡 TP1 / DP8 / EP8 |
DeepInfer 双机方案已做有限原生推理验证,双机在线 API 尚未验收;P/D 分离使用文本 checkpoint 参考路径。
查看部署文档 →部署经验分享 · 新环境需重新验证
不构成兼容性、稳定性、性能或生产可用性保证。性能数据、凭据、机器身份和私有资料不公开。