分组管理

分组管理用于把模型权限、折扣、额度和转发规则打包成可复用的套餐方案, 方便统一授权给用户、应用或代理商

适用角色

• 管理员: 维护全局基础分组, 控制平台标准套餐和默认授权规则

• 代理商: 维护自己名下的分组方案, 给客户分配不同权限和价格策略

• 普通用户: 不直接进入管理页, 但会实际使用被分配到的分组权限

功能说明

• 名称: 分组名称, 可重复

• 时段折扣: 分组支持配置多条时段规则, 可按全天、工作日、周末或自定义日期设置不同折扣

• 模型权限: 此分组的模型权限, 可配置不同提供商的模型

• 基础分组

  • 管理员可维护基础分组, 作为统一的分组模板
  • 代理商可基于已有基础分组创建自己的分组
  • 代理商自建分组能力仅支持 Plus / Pro 版本
  • 继承后再按自身业务需要做折扣、会员或额度调整

• 默认分组: 有且只有一个, 或不设置默认分组, 如已有默认分组, 设置当前分组为默认时会自动取消原来的默认分组

• 是否公开

  • 公开分组默认在用户注册时自动赋予分组权限
  • 不公开分组需管理员手动给用户授予权限

• 排序: 排序越大越优先, 当用户不绑定分组时, 将按分组排序进行查找模型, 默认分组的排序默认是最高

• 过期时间: 可设置分组过期时间, 过期后分组无法继续请求

• 限制额度: 控制分组可使用额度, 额度到达上限时无法继续请求

• 循环重置

  • 可按小时或按天自动重置额度
  • 自然周期: 按系统时间对齐到下一个整点或下一天 0 点后重置
  • 相对周期: 按当前生效时间或上次重置时间往后顺延一个周期再重置

• 时段计费

  • 支持为不同时间段设置不同折扣
  • 可按周或按月指定适用日期, 适合工作日优惠、周末活动价、夜间折扣等场景
  • 多条规则可设置优先级, 命中后按对应规则计费

• 限速能力

  • 可为分组设置请求和令牌速率限制
  • 便于给不同套餐、不同业务线配置不同的使用速度

• 启用代理

  • 启用代理后, 调用模型时, 将使用分组所选的模型代理进行请求, 需将模型代理绑定模型后再配置到分组中, 可配置不同提供商的模型代理
  • 不启用则使用模型绑定的模型代理进行请求
  • 负载策略: 轮询(默认), 权重
  • 模型代理: 选择配置模型代理, 可多选, 将按负载策略去请求

• 模型转发

  • 全部转发: 无条件转到目标模型上
  • 按关键字
    • 智能匹配
      • 判定模型: 将使用选择的判定模型根据配置的关键字利用大模型接口进行判断转发到哪个目标模型上
    • 按关键字
      • 使用正则表达式匹配提问的内容, 如果命中关键字则会转发到目标模型上
  • 内容长度: 根据设置的内容长度判断上下文长度是否满足转发条件, 满足则转发到目标模型上
  • 已用额度: 当前分组已用额度到达设置的额度时, 会将所有请求都转发到目标模型上

使用场景

• 给不同客户、业务线或套餐分配不同的模型权限, 形成标准化可复用方案

• 把价格、额度、速率、时段折扣和模型能力打包在一起, 直接做月包、周包、试用包或专属套餐

• 通过工作日优惠、周末活动价、夜间折扣等时段规则, 做更灵活的促销和差异化收费

• 给不同等级用户配置不同的调用速度、可用额度和可用模型, 做清晰的套餐分层

• 需要按条件自动切换模型或线路时, 用分组统一控制