Xinference Models Hub#

Added in version v1.13.0.

概述#

Xinference Models Hub 是 Xinference 用于模型管理与协作的统一平台。它为模型浏览、注册、评审、更新与协作维护提供端到端支持,面向普通用户与模型维护者提供全流程能力。

在引入 Models Hub 之前,模型 JSON 文件需要由用户直接通过 PR 修改 xorbitsai/inference 开源仓库。这种方式导致模型版本不可控、迭代周期长、模型更新依赖产品发版流程,用户无法及时获得最新模型。

通过集中式在线模型管理机制,Xinference Models Hub 要求 所有模型信息(含元数据、参数及 README)均在平台中完成编辑。系统会根据 模型维护者 的修改 自动生成并提交 PRxorbitsai/inference 仓库,实现流程标准化、自动化与可追溯,避免手动修改带来的不一致问题。

用户可通过 模型更新 功能随时获取最新模型列表,从而显著提升模型交付效率与整体使用体验。

普通用户指南#

本节介绍普通注册用户可使用的基础功能。

适用对象: 无模型注册或维护权限的普通用户。

核心功能#

普通用户无需登录即可浏览公开模型:

浏览模型#

  • 功能: 查看所有公开可用模型

  • 入口位置: 导航栏 → “Models”

  • 模型详情: 默认展示 README 标签,包含模型说明、使用指南与注意事项

备注

部分高级或企业版模型仅对具备权限的用户可见。

模型维护者指南#

本节介绍具备模型注册或维护权限的用户可使用的功能,包括模型注册、更新与评审流程。

适用对象: 具有模型注册或维护权限的用户。如需成为模型维护者,可 联系我们

核心功能(需登录)#

模型维护者在普通用户功能基础上,可以使用以下高级能力:

用户中心#

  • 功能: 查看与管理个人信息

  • 入口位置: 右上角头像 → “用户中心”

  • 账号管理: 更新个人资料、邮箱等信息

  • Token 管理: 配置个人 GitHub Token 以提交或更新模型

备注

若未配置个人 GitHub Token,系统将在生成 PR 时使用默认 Token。

模型注册#

  • 功能: 注册新模型并提交评审

  • 入口位置: 登录后 → 右上角头像 → “模型注册”

提交步骤:

  1. 填写基础模型信息(名称、引擎、格式等)

  2. 编辑 README(点击“获取 README”可自动生成模板)

  3. 提交模型(如需注册公开模型,请启用“公开模型”参数)

备注

在注册公开模型时,系统将自动在 xorbitsai/inference 仓库创建 PR。

我的模型#

  • 功能: 查看与当前账号相关的所有模型

  • 入口位置: 登录后 → 右上角头像 → “我的模型”

模型维护#

  • 功能: 修改模型的 JSON 或 README

  • 入口位置: 模型详情页 → “设置” 图标

备注

在更新公开模型时,系统将自动在 xorbitsai/inference 仓库创建 PR。

评审流程#

提交者流程:

  1. 提交模型

  2. 等待评审

  3. 根据评审意见修改

  4. 对于公开模型,PR 会在修改后自动更新

评审者权限: 可访问模型评审列表并执行评审操作。

评审者流程:

  1. 进入“评审列表”

  2. 评估模型质量、信息完整性与规范性

  3. 通过或驳回,并给出相应反馈