Skip to content
文档
中转分发

中转分发

中转分发系统是我们平台的核心功能之一，它为开发者提供了强大而灵活的AI集成工具。通过这个系统，我们实现了多租户中转分发、多密钥管理，并将10+种AI格式统一转换为最通用的OpenAI API格式，大大简化了开发者的集成过程。

中转分发

主要特点

  1. 多租户中转分发：支持多租户中转分发系统，每个用户可以独立管理自己的资源和配置。

  2. 多密钥管理：

    • 支持为每个用户分配多个API密钥
    • 企业版和商业版支持更灵活的密钥管理策略 (开源版仅支持一用户一密钥)

  3. 统一API格式：

    • 将10+种不同的AI服务接口格式转换为标准的OpenAI API格式
    • 开发者只需熟悉一种API格式，即可轻松集成多种AI服务

  4. 简化集成流程：

    • 相比直接接入各AI服务官方API，我们的平台提供了更简单、统一的接入方式
    • 大幅降低开发难度和时间成本

  5. 强大的密钥权限控制：

    • 支持为单个密钥设置模型限制, 勾选可用模型后，只有被勾选的模型才能使用该密钥调用
    • 支持为单个密钥设置配额限制, 额度消耗完后，该密钥将无法使用, 支持设置无限额度
    • 支持为单个密钥设置过期时间, 过期后，该密钥将无法使用, 支持设置永久有效
    • 支持为单个密钥设置IP白名单, 勾选IP后，只有被勾选的IP/CIDR才能使用该密钥调用

密钥编辑

使用优势

  1. 开发效率提升：通过统一的API格式，开发者可以快速集成多种AI能力，无需学习多个不同的API。

  2. 成本优化：多租户和多密钥管理允许更灵活的资源分配和成本控制。

  3. 服务质量保障：内置的负载均衡和重试机制确保了高可用性和稳定性。

  4. 扩展性：随着新AI服务的加入，开发者无需修改已有代码，即可利用新能力。

  5. 统一管理：通过我们的平台，可以集中管理所有AI服务的使用情况、配额和账单。

  6. 密钥安全：支持为单个密钥设置模型限制、配额限制、过期时间和IP白名单，确保密钥安全。

  7. 成本控制：支持为单个密钥设置配额限制，当月额度消耗完后，该密钥将无法使用, 支持设置无限额度

通过使用我们的中转分发系统，开发者可以专注于创新和应用开发，而无需担心底层AI服务的集成复杂性。这大大加速了AI应用的开发和部署过程，为企业和开发者提供了显著的竞争优势。

后台设置

只要您配置了渠道设置，您无需再配置任何中转分发设置和对话设置，两套系统的算法层是相同的，所以可以非常智能的无缝对接，以及集成所有渠道的自研智能算法。

关闭中转 API

如果您不希望使用中转系统，您可以关闭中转 API，这样所有的中转请求将会被直接拒绝。

操作步骤：

  1. 登录后台
  2. 进入 系统设置 -> 运营设置
  3. 关闭 中转 API 复选框
  4. 点击 保存 按钮

开启订阅配额不涵盖中转 API

如果您希望订阅计划的配额不涵盖中转 API 的调用，您可以开启此选项，这样即使用户订阅且额度未用完，配额也无法使用中转 API，仅支持使用弹性计费（点数）付费。这种系统适用于 API 和订阅计划分开的情况。

操作步骤：

  1. 登录后台
  2. 进入 系统设置 -> 运营设置
  3. 取消勾选 订阅配额支持中转 API 复选框
  4. 点击 保存 按钮

中转设置

计费系统记录管理