代理管理

代理与模型为相互绑定关系, 模型在开启代理的情况下, 可以选择相应的代理, 选中代理后会使用代理的代理地址和代理路径替换掉模型的LLM API接口的模型地址和模型路径, 代理密钥用于调用LLM API的鉴权使用

• 公司: 代理所属的公司, 目前仅用于区分代理所属作用

• 代理名称: 不唯一可重复

• 代理地址: 绑定的模型将使用此代理地址作为接口请求地址

• 代理路径: 绑定的模型将使用此代理路径作为接口请求路径

• 权重: 模型启用代理时负载策略选择权重时生效, 会将此模型选中的所有代理权重值相加, 然后代理的权重值÷权重值总数, 得出最终的权重百分比

• 绑定模型: 绑定的模型将使用此模型代理, 注意: 需绑定的模型启用模型代理功能方可生效

• 密钥负载策略: 轮询(默认), 权重

• 密钥: 模型代理调用接口时将使用此配置的密钥

• 代理专用: 一般都是开启, 表示此密钥是此代理专属, 只有代理的是官方地址时才需要关闭