Skip to main content

路由规则

概念介绍​

路由规则决定 AI 网关如何将请求中的 model 转发到具体上游模型。一条路由包含对外的 模型标识、可选 接入点，以及一条或多条 模型绑定（公有供应商或推理部署上的模型，可设优先级）。客户端使用 API Key 调用时，须使用路由上配置的 model id（或界面提供的扁平 / 层级形式）。

控制台路径为 人工智能 → AI 网关 → 路由规则。

常用操作​

新建​

列表点击 新建，填写路由基本信息并至少添加一个模型绑定。

  • 名称：路由条目名称。
  • 模型标识：与请求中的 model 精确匹配；优先于其他匹配规则。
  • 优先级：数值越小越优先（同场景下）。
  • 接入点：可选，指定使用的 接入点。
  • 路由模型（模型绑定）：至少一条。
    • 接入类型：公有 Provider 或推理部署。
    • 供应商 / 推理部署：按接入类型选择上游。
    • 模型：选择该上游下的模型。
    • 优先级：绑定级优先级，越小越优先。

查看详情​

打开某一路由的侧栏详情，常见页签包括：

  • 详情：查看模型标识、优先级、接入点与启用状态等。
  • 接入信息：选择 API Key 后查看接入地址、调用 Model 与 curl 示例（路由下挂多个模型时，可选择扁平或层级 model id）。
  • chat测试：在控制台内用选定 API Key 与 Model 做对话验证。
  • 路由模型：查看与管理已绑定的模型。
  • 操作日志：排查创建、修改与相关事件。

公有模型与多模态端到端见 AI 网关/快速开始；部署侧接入与 curl 见 AI 推理/快速开始。

其他操作​

  • 编辑：调整名称、模型标识、优先级、接入点等。
  • 设置模型：维护模型绑定列表。
  • 设置共享范围：按项目管理与可见性需要使用。
  • 启用 / 禁用：控制路由是否生效。
  • 删除：确认无调用依赖后再删除。

常见问题​

调用返回 model 不存在或未匹配​

确认请求中的 model 与路由的 模型标识（或接入信息中展示的调用 Model）一致，且路由与绑定均已启用。

接入信息里没有可选 API Key​

先到 API Key 新建并启用密钥，再回到本页 接入信息 选择。