qwen 单卡推理

2、单卡推理时，执行命令：export ASCEND_VISIBLE_DEVICES=0，指定运行在id=0的逻辑卡上

3、重新运行推理，仍旧报错，报错信息如下：

[2025-03-31 11:55:22.679578] [error] [19353] [runner.cpp:115] PluginRunner_55_0_0:1 Execute Failed. st: 12

[2025-03-31 11:55:22.679586] [error] [19353] [graph_runner.cpp:906] LinearNoQuantRunner_55_0:0  node[0] execute fail, runner name:PluginRunner

[2025-03-31 11:55:22.679594] [info] [19353] [graph_runner.cpp:398] LinearNoQuantRunner_55_0:0 execute fail

[2025-03-31 11:55:22.679600] [debug] [19353] [probe.cpp:47] executeCount:0

[2025-03-31 11:55:22.679605] [debug] [19353] [probe.cpp:47] executeCount:0

[2025-03-31 11:55:22.679610] [error] [19353] [runner.cpp:115] LinearNoQuantRunner_55_0:1 Execute Failed. st: 12

[2025-03-31 11:55:22.679617] [error] [19353] [graph_runner.cpp:906] LmHeadRunner_55:0  node[0] execute fail, runner name:LinearNoQuantRunner

[2025-03-31 11:55:22.679623] [info] [19353] [graph_runner.cpp:398] LmHeadRunner_55:0 execute fail

4、针对使用的mindie是2.0.0.T3的镜像，Qwen2系列模型可能开启了MATMUL格式转换和EACLNN接口调用，因此单卡跑Qwen系列模型时，需要关闭这两个参数：

export MATMUL_ND_NZ_ENABLE=0

export ENABLE_ACLNN_MATMUL_BACKEND=0

【故障根因】

mindie2.00.T3镜像中，Qwen2系列模型开启MATMUL_ND_NZ_ENABLE和ENABLE_ACLNN_MATMUL_BACKEND

【解决方法】

关闭MATMUL_ND_NZ_ENABLE和ENABLE_ACLNN_MATMUL_BACKEND，并在每次进入容器时，都设置一次

【其他】

mindie 1.0.0镜像、mindie 2.0.T6及之后的镜像不涉及，可直接使用