外观
模型与分组
模型
模型是用户在请求中填写的统一标识。模型聚合服务平台可能将同一个模型连接到多个上游或本地推理渠道,但应用只需要使用模型标识,无需了解具体渠道。
可用范围以模型广场为准。模型广场会按用户有效分组隔离展示,不能看到的模型通常也不能通过手工请求调用。
用户分组
用户可以同时属于多个分组,例如通用教学、科研项目和敏感数据本地推理。主分组用于部分用户级展示或策略,附加分组扩展可选范围。所属关系只能由管理员调整。
API Key 分组
每个 Key 选择一个本人所属分组,并据此决定:
- 可调用的模型;
- 可使用的渠道池;
- 计量和价格策略;
- RPM、TPM、RPD 等限制;
- 数据是否允许发送到校外模型服务。
常见现象
| 现象 | 可能原因 |
|---|---|
| 同学能看到某模型,自己看不到 | 两人的所属分组不同 |
| 模型广场可见,但某个 Key 调用失败 | Key 绑定了其他分组或设置了模型白名单 |
| 敏感分组渠道异常时没有自动切换 | 安全策略禁止跨分组回退 |
| 修改用户分组失败 | 仍有 API Key 绑定准备移除的分组 |
