LLMDeployASCEND · DEPLOYMENT NOTES
A5 / ASCEND 950DT

昇腾大模型部署实践

按模型与推理框架选择部署方案,查看对应的配方、版本锁定和验证范围。

模型DeepInfervLLM Ascend
DeepSeek V4.1
Flash-1017
单机 8 卡 P/D 混部 双机 8P+8D 分离 双机 16 卡 EP16 混部 单机 8 卡

TP1 / DP8 / EP8

DeepInfer 双机方案已做有限原生推理验证,双机在线 API 尚未验收;P/D 分离使用文本 checkpoint 参考路径。

查看部署文档 →部署经验分享 · 新环境需重新验证

不构成兼容性、稳定性、性能或生产可用性保证。性能数据、凭据、机器身份和私有资料不公开。