在2块Atlas 300i pro 上，开启mindie-service服务，跑Qwen3-8b，速度较慢，请问有加速方案吗？ _MindIE_昇腾论坛

# 在2块Atlas 300i pro 上，开启mindie-service服务，跑Qwen3-8b，速度较慢 ，请问有加速方案吗？ _MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-0250190520736726268-1-1.html

**生成时间**: 2025-08-27 10:33:56

---

## 问题描述

同样的模型同样的prompt ,在单块nvidia L40上跑仅需要0.65s返回结果请问在我现有的设备上Atlas 300i pro 推理速度还有优化空间吗

## 相关图片

### 图片 1

![cke_369.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/8c4/147/a52/9d43ed592f8c4147a52b502bd6275b17.20250814022200.08837652316470712773449518690417:20250827013648:2400:A33249F431E541FC95ACDFEE3C32FDBDB043BEB6E8C9BD0135742B38352BDC72.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/8c4/147/a52/9d43ed592f8c4147a52b502bd6275b17.20250814022200.08837652316470712773449518690417:20250827013648:2400:A33249F431E541FC95ACDFEE3C32FDBDB043BEB6E8C9BD0135742B38352BDC72.png

**图片描述**: cke_369.png

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 性能优化
2. **涉及技术**: Atlas, MindIE
3. **解决方案**: 内容较短，建议查看原始帖子

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*

在2块Atlas 300i pro 上，开启mindie-service服务，跑Qwen3-8b，速度较慢 ，请问有加速方案吗？ _MindIE_昇腾论坛

在2块Atlas 300i pro 上，开启mindie-service服务，跑Qwen3-8b，速度较慢，请问有加速方案吗？ _MindIE_昇腾论坛