跳到主要内容

用户手册

围绕控制台 人工智能 下的 Agent、推理与相关资源，说明概念与操作路径。

阅读指南​

控制台菜单与功能对照​

进入 人工智能 后，主要分组包括 Agent、推理、AI 网关 等：

  • Agent实例：创建与管理 OpenClaw、HermesAgent、Dify、ComfyUI 等实例。
  • Agent模板：Agent 实例可复用的规格（镜像、CPU/内存/GPU、端口等）。
  • Agent镜像：Agent 类应用的容器镜像。
  • 推理部署：以部署为单位管理推理服务；部署下包含可扩缩的 实例 副本。
  • 推理模板：可复用的规格（镜像、CPU/内存/GPU、挂载模型、端口等）。
  • 模型文件：平台内可挂载、可缓存的模型数据条目（旧称「推理模型库」）。
  • 推理镜像：vLLM / SGLang 等推理运行时镜像。
  • 基准测试：对已有推理部署做压测并查看报告。
  • AI 网关 · 用量分析：网关调用统计、分析与请求明细；可按 API Key 查看多租户用量。
  • AI 网关 · API Key：调用鉴权与限流。
  • AI 网关 · 路由规则：将请求 model 绑定到上游模型。
  • AI 网关 · 供应商：公有或推理部署注册的上游。
  • AI 网关 · 接入点：网关对外地址与心跳。

名词约定​

  • Agent实例：运行 OpenClaw、HermesAgent、Dify、ComfyUI 等应用的实例。
  • Agent模板：创建 Agent 实例时可复用的默认规格。
  • Agent镜像：决定 Agent 应用运行环境的容器镜像。
  • 推理部署：对外提供服务的部署对象；旧文档中的「推理实例」在菜单层面已合并到部署，实例现为部署下的子资源。
  • 推理模板：创建部署时可复用的默认规格。
  • 模型文件：可挂载到模板/部署的模型数据（旧称「模型库」）。
  • 推理镜像：决定推理引擎与运行环境的容器镜像。

典型关系​

推理部署 ≈ 推理镜像 + 推理模板规格 +（可选）模型文件；部署下可有多份实例副本。