MindIE 启动卡死，日志停滞在 model_runner.dtype，NPU 进程存在但模型未加载_MindIE_昇腾论坛

# MindIE 启动卡死，日志停滞在 model_runner.dtype，NPU 进程存在但模型未加载_MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-02102189833805597140-1-1.html

**生成时间**: 2025-08-27 10:33:59

---

## 问题描述

求助帖MindIE 启动卡死日志停滞在 model_runner.dtypeNPU 进程存在但模型未加载 问题描述 执行 ./mindieservice_daemon 后服务启动并输出初始化日志但随后长时间无任何进展已等待超过10分钟具体表现为 日志停留在以下位置 log 深色版本 [2025-08-06 11:10:27,582] [2107] [281462743036256] [llm] [INFO] [logging.py-331] : model_runner.quantize: None, model_runner.kv_quant_type: None, model_runner.fa_quant_type: None, model_runner.dtype: torch.float16 复制 使用 npu-smi info 查看 NPU 状态发现 NPU 5 和 6 上有 mindie_llm_back 进程运行显存占用约 97MB但是 AICore 利用率为 0%显存占用远低于预期的 7B 模型需求 服务器及其他信息 硬件环境 服务器平台华为鲲鹏 920-3226ARM 架构 NPU 数量8  昇腾 310P3 架构aarch64 软件版本 组件 版本/名称 安装路径或说明 操作系统内核 4.19.90-89.24.v2401.ky10.aarch64 Kylin V10 SP3 CANN 工具包 Ascend-cann-toolkit_8.2.RC1_linux-aarch64 /usr/local/Ascend/ascend-toolkit/8.2.RC1/aarch64-linux NPU 驱动 Ascend-hdk-310p-npu-driver_25.2.0_linux-aarch64 - NPU 固件 Ascend-hdk-310p-npu-firmware_7.7.0.6.236 - 内核开发包 kernel-devel, kernel-headers (4.19.90-89.11) - 昇腾 PyTorch torch_npu-2.6.0-cp310-cp310-manylinux_2_28_aarch64.whl - 推理工具 aclruntime, ais_bench - MindIE 版本 1.0.0路径/usr/local/...

## 相关代码

### 代码示例 1

```
model_runner.dtype
```

### 代码示例 2

```
./mindieservice_daemon
```

### 代码示例 3

```
[2025-08-06 11:10:27,582] [2107] [281462743036256] [llm] [INFO] [logging.py-331] :
model_runner.quantize: None,
model_runner.kv_quant_type: None,
model_runner.fa_quant_type: None,
model_runner.dtype: torch.float16
复制
```

### 代码示例 4

```
[2025-08-06 11:10:27,582] [2107] [281462743036256] [llm] [INFO] [logging.py-331] :
model_runner.quantize: None,
model_runner.kv_quant_type: None,
model_runner.fa_quant_type: None,
model_runner.dtype: torch.float16
```

### 代码示例 5

```
npu-smi info
```

## 相关图片

### 图片 1

![cke_2063.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/044/eef/97d/6f4eb6633b044eef97dbdd0c1d13005a.20250806084652.05510200399213522974187225112411:20250827021320:2400:322D62EA36EC96147A72C330A8E204428057DFD076E81116D84339B595DAF14B.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/044/eef/97d/6f4eb6633b044eef97dbdd0c1d13005a.20250806084652.05510200399213522974187225112411:20250827021320:2400:322D62EA36EC96147A72C330A8E204428057DFD076E81116D84339B595DAF14B.png

**图片描述**: cke_2063.png

## 完整内容

求助帖MindIE 启动卡死日志停滞在 model_runner.dtypeNPU 进程存在但模型未加载 问题描述 执行 ./mindieservice_daemon 后服务启动并输出初始化日志但随后长时间无任何进展已等待超过10分钟具体表现为 日志停留在以下位置 log 深色版本 [2025-08-06 11:10:27,582] [2107] [281462743036256] [llm] [INFO] [logging.py-331] : model_runner.quantize: None, model_runner.kv_quant_type: None, model_runner.fa_quant_type: None, model_runner.dtype: torch.float16 复制 使用 npu-smi info 查看 NPU 状态发现 NPU 5 和 6 上有 mindie_llm_back 进程运行显存占用约 97MB但是 AICore 利用率为 0%显存占用远低于预期的 7B 模型需求 服务器及其他信息 硬件环境 服务器平台华为鲲鹏 920-3226ARM 架构 NPU 数量8  昇腾 310P3 架构aarch64 软件版本 组件 版本/名称 安装路径或说明 操作系统内核 4.19.90-89.24.v2401.ky10.aarch64 Kylin V10 SP3 CANN 工具包 Ascend-cann-toolkit_8.2.RC1_linux-aarch64 /usr/local/Ascend/ascend-toolkit/8.2.RC1/aarch64-linux NPU 驱动 Ascend-hdk-310p-npu-driver_25.2.0_linux-aarch64 - NPU 固件 Ascend-hdk-310p-npu-firmware_7.7.0.6.236 - 内核开发包 kernel-devel, kernel-headers (4.19.90-89.11) - 昇腾 PyTorch torch_npu-2.6.0-cp310-cp310-manylinux_2_28_aarch64.whl - 推理工具 aclruntime, ais_bench - MindIE 版本 1.0.0路径/usr/local/Ascend/mindie/1.0.0 - 模型信息 模型名称DeepSeek-R1-Distill-Qwen-7B 模型路径`/root/models/DeepSeek-R1-Distill-Qwen-7B 已解决重新安装下CANN和驱动固件重新运行就可以了 参考https://www.hiascend.com/forum/thread-02114177673210158008-1-1.html

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 部署安装
2. **涉及技术**: HTTPS, PyTorch, NPU, MindIE, 昇腾, CANN, AI
3. **解决方案**: 请参考完整内容中的解决方案

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*