【MindIE】【DeepSeek】性能较差、推理较慢问题定位总结（持续更新~）_MindIE_昇腾论坛

# 【MindIE】【DeepSeek】性能较差、推理较慢问题定位总结（持续更新~）_MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-02114178856563142116-1-1.html

**生成时间**: 2025-08-27 10:33:56

---

## 问题描述

问题描述 部署模型后推理速度较慢等待时间长与预期差异较大尤其是针对大模型长文本情况 可能原因 1. 环境变量优化 2. 日志级别问题 3. OS内核版本问题 排查方法及解决方案 1. 针对大模型需要更高的显存建议适当调高 NPU_MEMORY_FRACTION 环境变量的值默认是0.8建议调到0.95以上 === export NPU_MEMORY_FRACTION = 0.96 2. 针对推理时卡在哪里很久等待时间较长建议使能AIV HCCL_OP_EXPANSION_MODE, 关闭确定性计算HCCL_DETERMINISTIC可以通过env | grep HCCL_来查看是否设置 ===> 使能 AIV : export HCCL_OP_EXPANSION_MODE="AIV" 关闭确定性计算export HCCL_DETERMINISTIC=false 3. 在PyTorch的训练或推理场景可以通过设置环境变量CPU_AFFINITY_CONF来控制CPU端算子任务的处理器亲和性即设定任务绑核该配置能够优化任务的执行效率避免跨 NUMA非统一内存访问架构节点的内存访问减少任务调度开销 ===> 开启绑核优化示例开启方式三选一建议优先尝试示例二 示例一粗粒度绑核 export CPU_AFFINITY_CONF=1 示例二细粒度绑核 export CPU_AFFINITY_CONF=2 示例三自定义多张NPU卡的绑核范围 export CPU_AFFINITY_CONF=1,npu0:0-1,npu1:2-5,npu3:6-6 4. 在发送请求时观察日志中是否存在大量的debuginfo日志打印如果存在可能是为了排查问题各组件开启了debug日志事后忘记关闭而大量的日志打印是十分耗时的行为且在正常的服务过程中不需要这些日志 === 在set_env.sh中关闭各组件的debug/info日志等级改成ERROR级别 5. 使用`uname -r `查看OS内核版本版本小于5.10 ===升级系统内核版本升级到5.10升级前需要找研发确认 一定要需要升级宿主机内核吗? 我操作系统是 cat /etc/os-release NAME="Kylin Linux Advanced Server" VERSION="V10 (Halberd)" ID="kylin" VE...

## 相关图片

### 图片 1

![图章](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/011/111/111/0000000000011111111.20221130034345.74094164422489851617363760607320:20250828013856:2400:1E2F69C73F8854E0BE03632FF90EA3B03B1A626F0F598BEC91BAAE86B28B6A0F.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/011/111/111/0000000000011111111.20221130034345.74094164422489851617363760607320:20250828013856:2400:1E2F69C73F8854E0BE03632FF90EA3B03B1A626F0F598BEC91BAAE86B28B6A0F.png

**图片描述**: 图章

### 图片 2

![cke_200.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/034/6e3/a7d/8b0a8635030346e3a7d4a17ccbc49950.20250403014039.87426479798821046647256903450080:20250827013857:2400:B0BB49B4F8130287E05603DE3C95FDD3C45A51930D94E04D86810EF404631CA8.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/034/6e3/a7d/8b0a8635030346e3a7d4a17ccbc49950.20250403014039.87426479798821046647256903450080:20250827013857:2400:B0BB49B4F8130287E05603DE3C95FDD3C45A51930D94E04D86810EF404631CA8.png

**图片描述**: cke_200.png

### 图片 3

![cke_132.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/034/6e3/a7d/8b0a8635030346e3a7d4a17ccbc49950.20250403014529.48665279720688518266835878063604:20250827013857:2400:2F84279A355D1FD1EC05262FCF3104C2C3A01AE608C9352BF3E1EC4916487557.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/034/6e3/a7d/8b0a8635030346e3a7d4a17ccbc49950.20250403014529.48665279720688518266835878063604:20250827013857:2400:2F84279A355D1FD1EC05262FCF3104C2C3A01AE608C9352BF3E1EC4916487557.png

**图片描述**: cke_132.png

## 完整内容

问题描述 部署模型后推理速度较慢等待时间长与预期差异较大尤其是针对大模型长文本情况 可能原因 1. 环境变量优化 2. 日志级别问题 3. OS内核版本问题 排查方法及解决方案 1. 针对大模型需要更高的显存建议适当调高 NPU_MEMORY_FRACTION 环境变量的值默认是0.8建议调到0.95以上 === export NPU_MEMORY_FRACTION = 0.96 2. 针对推理时卡在哪里很久等待时间较长建议使能AIV HCCL_OP_EXPANSION_MODE, 关闭确定性计算HCCL_DETERMINISTIC可以通过env | grep HCCL_来查看是否设置 ===> 使能 AIV : export HCCL_OP_EXPANSION_MODE="AIV" 关闭确定性计算export HCCL_DETERMINISTIC=false 3. 在PyTorch的训练或推理场景可以通过设置环境变量CPU_AFFINITY_CONF来控制CPU端算子任务的处理器亲和性即设定任务绑核该配置能够优化任务的执行效率避免跨 NUMA非统一内存访问架构节点的内存访问减少任务调度开销 ===> 开启绑核优化示例开启方式三选一建议优先尝试示例二 示例一粗粒度绑核 export CPU_AFFINITY_CONF=1 示例二细粒度绑核 export CPU_AFFINITY_CONF=2 示例三自定义多张NPU卡的绑核范围 export CPU_AFFINITY_CONF=1,npu0:0-1,npu1:2-5,npu3:6-6 4. 在发送请求时观察日志中是否存在大量的debuginfo日志打印如果存在可能是为了排查问题各组件开启了debug日志事后忘记关闭而大量的日志打印是十分耗时的行为且在正常的服务过程中不需要这些日志 === 在set_env.sh中关闭各组件的debug/info日志等级改成ERROR级别 5. 使用`uname -r `查看OS内核版本版本小于5.10 ===升级系统内核版本升级到5.10升级前需要找研发确认 一定要需要升级宿主机内核吗? 我操作系统是 cat /etc/os-release NAME="Kylin Linux Advanced Server" VERSION="V10 (Halberd)" ID="kylin" VERSION_ID="V10" PRETTY_NAME="Kylin Linux Advanced Server V10 (Halberd)" ANSI_COLOR="0;31 内核是 uname -rs Linux 4.19.90-89.11.v2401.ky10.aarch64 但我是用 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts 镜像启动的. 您好别的原因都已经排除完了没有解决吗 是的. 我们能开个 weMeeting 会议吗? 因为我按说明操作了, 但因为没日志, 也不知道操作是否正确. 现在是还没看到 success 的输出 我也遇到一样的问题了请问解决了吗 升级硬件的固件和驱动到最新版本. 解决了. 如果还不行, 就打华为电话 企业用户 请拨打400-822-9999 升级最新固件和驱动也解决了多谢 环境变量也设置了. 我们还没到优化效率那步, 现在是启动不正确. 所以像 算子绑定 就没操作了. 现在是要知道: 它在干什么, 或者我能正常启动服务也行 感谢 你好我使用两机做w8a8部署时推理速度非常慢只有不到1token/s 使用8机做大EP部署时速度也只有不到1token/s 请问这是正常的吗 你说的这些我都尝试了也没有啥实质性的速度提升 感谢楼主~

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 错误处理
2. **涉及技术**: PyTorch, NPU, MindIE, 昇腾, AI
3. **解决方案**: 请参考完整内容中的解决方案

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*