使用算力

算力代理客户端将您本机或内网的 OpenAI 兼容推理服务(如 Ollama、vLLM 等)注册到 BigHub。注册成功后,您可以在自用场景下独自使用,也可以在共享场景下按平台规则开放给其他登录用户。以下结合控制台中的 算力节点节点模型 等能力说明路径。

前置:完成算力接入

请先在左侧 算力接入 下载适合系统的算力代理客户端,按页面说明安装启动,并填写平台下发的连接信息,使本机上游推理地址被平台识别为在线节点。接入细节以该页与开发文档为准。

自用

目标:仅本人账号在平台内调用已接入的模型,不对外展示。

  1. 使用与 BigHub 绑定的账号登录后进入控制台。
  2. 算力节点控制台 · 算力节点,需登录)中确认代理上报的节点在线、名称为您所期望。
  3. 节点模型控制台 · 节点模型,需登录)中管理各模型条目:将不需要对他人开放的模型保持为自用可见范围(具体选项以页面为准)。
  4. 体验中心 对话或多模态页面中,在模型选择器里选用已接入的模型进行试用;或通过 API Key 调用平台网关,路由到已授权的自有算力(用法见开发文档)。

共享

目标:在平台策略允许的前提下,让其他已登录用户也能选用您节点上的部分模型。

  1. 同样保持算力代理在线,并在 算力节点 中维护节点展示名称、分组等信息,便于他人识别。
  2. 节点模型 中为需要共享的模型开启对外可见/展示相关配置(例如公开展示、标签等,以当前产品界面为准),未开放条目则仍仅自用。
  3. 其他用户在具备相应权限时,可在体验中心或 API 侧看到并选用您已开放的模型;用量与审计由平台按现有规则记录。
「共享」涉及可见性与权限,以您所在租户的管理策略及控制台实际选项为准。若菜单不可见,请联系管理员开通算力节点相关权限。

相关链接