在使用mis_tei:7.1.RC1-300I-Duo-aarch64镜像时报错，illegal_MindIE_昇腾论坛

# 在使用mis_tei:7.1.RC1-300I-Duo-aarch64镜像时报错，illegal_MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-0297190532606090276-1-1.html

**生成时间**: 2025-08-27 10:33:56

---

## 问题描述

环境FT2000arm64 ,310p3 中科麒麟v10 在运行mis_tei:7.1.RC1-300I-Duo-aarch64 时提示 ./start.sh line69 391 Illegal instruction core dumped text-embeedings-router --model-id xxxxx 首先参考这个里面的FAQ2https://www.hiascend.com/developer/ascendhub/detail/07a016975cc341f3a5ae131f2b52399d text_embeddings_server 可以运行成功 2 启动容器失败报错Error: Could not create backend 定位解决思路 # 运行容器 docker run -u <user> -e ENABLE_BOOST=True -e ASCEND_VISIBLE_DEVICES=0 -itd --name=tei --net=host \ --entrypoint bash -v <model dir>:/home/HwHiAiUser/model <image id> # 进入容器 docker exec -it tei bash # 配置环境变量 source /usr/local/Ascend/ascend-toolkit/set_env.sh source /usr/local/Ascend/nnal/atb/set_env.sh export LD_PRELOAD=$(ls /usr/local/lib/python3.11/dist-packages/scikit_learn.libs/libgomp-*):$LD_PRELOAD export PATH="/home/HwHiAiUser/.cargo/bin:$PATH" if [[ -n $(id | grep uid=0) ]];then source /usr/local/Ascend/mxRag/script/set_env.sh else source /home/HwHiAiUser/Ascend/mxRag/script/set_env.sh fi # 切换到后端目录 cd /home/HwHiAiUser/text-embeddings-infe...

## 相关代码

### 代码示例 1

```
text_embeddings_server 可以运行成功
```

### 代码示例 2

```
# 运行容器
docker run -u <user> -e ENABLE_BOOST=True -e ASCEND_VISIBLE_DEVICES=0 -itd --name=tei --net=host \
--entrypoint bash -v <model dir>:/home/HwHiAiUser/model <image id>

# 进入容器
docker exec -it tei bash

# 配置环境变量
source /usr/local/Ascend/ascend-toolkit/set_env.sh
source /usr/local/Ascend/nnal/atb/set_env.sh
export LD_PRELOAD=$(ls /usr/local/lib/python3.11/dist-packages/scikit_learn.libs/libgomp-*):$LD_PRELOAD
export PATH="/home/HwHiAiUser/.cargo/bin:$PATH"

if [[ -n $(id | grep uid=0) ]];then
source /usr/local/Ascend/mxRag/script/set_env.sh
else
source /home/HwHiAiUser/Ascend/mxRag/script/set_env.sh
fi

# 切换到后端目录：
cd /home/HwHiAiUser/text-embeddings-inference/backends/python/server

# 执行后端启动程序，查看是否出现堆栈异常
python3 text_embeddings_server/cli.py /home/HwHiAiUser/model/bge-large-zh-v1.5(根据具体模型名修改)

#如果日志出现 "Server started at unix://tmp/text-embeddings-server"表示后端服务启动成功
```

## 完整内容

环境FT2000arm64 ,310p3 中科麒麟v10 在运行mis_tei:7.1.RC1-300I-Duo-aarch64 时提示 ./start.sh line69 391 Illegal instruction core dumped text-embeedings-router --model-id xxxxx 首先参考这个里面的FAQ2https://www.hiascend.com/developer/ascendhub/detail/07a016975cc341f3a5ae131f2b52399d text_embeddings_server 可以运行成功 2 启动容器失败报错Error: Could not create backend 定位解决思路 # 运行容器 docker run -u <user> -e ENABLE_BOOST=True -e ASCEND_VISIBLE_DEVICES=0 -itd --name=tei --net=host \ --entrypoint bash -v <model dir>:/home/HwHiAiUser/model <image id> # 进入容器 docker exec -it tei bash # 配置环境变量 source /usr/local/Ascend/ascend-toolkit/set_env.sh source /usr/local/Ascend/nnal/atb/set_env.sh export LD_PRELOAD=$(ls /usr/local/lib/python3.11/dist-packages/scikit_learn.libs/libgomp-*):$LD_PRELOAD export PATH="/home/HwHiAiUser/.cargo/bin:$PATH" if [[ -n $(id | grep uid=0) ]];then source /usr/local/Ascend/mxRag/script/set_env.sh else source /home/HwHiAiUser/Ascend/mxRag/script/set_env.sh fi # 切换到后端目录 cd /home/HwHiAiUser/text-embeddings-inference/backends/python/server # 执行后端启动程序查看是否出现堆栈异常 python3 text_embeddings_server/cli.py /home/HwHiAiUser/model/bge-large-zh-v1.5(根据具体模型名修改) #如果日志出现 "Server started at unix://tmp/text-embeddings-server"表示后端服务启动成功 然后手工启动text-embedding-router也是直接报coredown 查看/home/HwAiUser目录下的text-embedding-inferer看里面的文件好多都是gpu的没有npu的配置 运行rustup运行正常 但是运行rustc提示没有toolchain 想请问一下这个是什么原因导致的呢是镜像mis_tei:7.1.RC1-300I-Duo-aarch64本身的问题吗

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 错误处理
2. **涉及技术**: HTTPS, GPU, NPU, Docker, MindIE, 昇腾, AI
3. **解决方案**: 请参考完整内容中的解决方案

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*