Skip to content

模型与路由

为什么模型列表里有模型,调用时却提示不可用?

模型可见不代表当前时刻一定存在可用服务。模型可能处于维护、限流或临时停用状态。先确认 Key 所属分组正确,再尝试同类模型;持续发生时将请求标识反馈给管理员。

为什么同一模型有多个相似名称?

不同名称可能代表版本、上下文长度、推理模式或部署位置不同。请使用模型广场或管理员公布的准确模型 ID,不要根据展示名称自行拼写。

为什么相同请求的结果不完全一致?

生成式模型具有随机性,且平台可能在兼容服务之间进行路由。需要更稳定的输出时,可降低 temperature、固定提示词结构,并在业务侧校验结果。

为什么响应模型与请求模型名称不同?

平台可能使用别名、版本映射或兼容路由。业务代码不应依赖响应中的展示名称判断能力,应以请求成功、输出结构和学校公布的模型说明为准。

同一对话持续失败,新建对话却恢复了

部分链路会为了上下文一致性保持服务亲和性。原服务临时不可用时,同一会话可能持续失败。可新建对话或稍后重试,并保留原请求标识供管理员排查。

为什么长对话突然提示上下文超限?

上下文包含系统提示词、历史消息、工具定义、附件和预期输出。删除较早消息、压缩上下文、减少附件或降低输出上限后重试。

自动切换服务会影响结果吗?

兼容服务通常保持相同接口,但延迟、输出风格和可用参数可能略有差异。对结果一致性要求较高的业务,应固定模型版本并进行输出校验。