为什么PD分离部署场景下，指定openai格式接口内的 top_k，top_p，seed, temperature，beam等参数，全都不生效_MindIE_昇腾论坛

# 为什么PD分离部署场景下，指定openai格式接口内的 top_k，top_p，seed, temperature，beam等参数，全都不生效_MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-02116187426512035021-1-1.html

**生成时间**: 2025-08-27 10:33:58

---

## 问题描述

指定环境变量可以保障稳定性回答但是这些参数还是失效有没有其他修复方式 第一次请求 第二次请求 你用的是什么版本PD分离是如何拉起的请求的指令是什么

## 相关图片

### 图片 1

![cke_568.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/134/a51/821/0dfd1ae47d134a518218f073d0fbdd61.20250709065331.63295850055062629474587788678041:20250827021155:2400:2899FA57505CC008BD52DC0D1A41ABB07186BF09FB9B6D90A31B3DC0C8FC8E71.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/134/a51/821/0dfd1ae47d134a518218f073d0fbdd61.20250709065331.63295850055062629474587788678041:20250827021155:2400:2899FA57505CC008BD52DC0D1A41ABB07186BF09FB9B6D90A31B3DC0C8FC8E71.png

**图片描述**: cke_568.png

### 图片 2

![cke_16933.png](https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/134/a51/821/0dfd1ae47d134a518218f073d0fbdd61.20250709074033.94623157670502593370533823250683:20250827021155:2400:D6F0822DB11EAAD8BD47F50545554C288342B0CE23BA4713B9EE0C7130DC4DBC.png)

**图片地址**: https://fileserver.developer.huaweicloud.com/FileServer/getFile/cmtybbs/134/a51/821/0dfd1ae47d134a518218f073d0fbdd61.20250709074033.94623157670502593370533823250683:20250827021155:2400:D6F0822DB11EAAD8BD47F50545554C288342B0CE23BA4713B9EE0C7130DC4DBC.png

**图片描述**: cke_16933.png

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 部署安装
2. **涉及技术**: AI, MindIE
3. **解决方案**: 内容较短，建议查看原始帖子

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*