跳到主要内容

配置模型API密钥

RAGFlow需要API密钥与在线AI模型进行交互。本指南提供有关在RAGFlow中设置模型API密钥的信息。

获取模型API密钥​

RAGFlow支持大多数主流LLMs。请参考支持的模型获取完整的支持模型列表。您需要在线申请您的模型API密钥。请注意，大多数LLM提供商为新创建的账户提供试用积分，这些积分将在几个月后过期，或者提供促销性的免费配额。

备注

如果您发现您的在线LLM不在列表中，请不要感到沮丧。列表正在扩展中，您可以向我们提交功能请求！或者，如果您有自定义或本地部署的模型，您可以使用Ollama、Xinference或LocalAI将它们绑定到RAGFlow。

配置模型API密钥​

您有两个配置模型API密钥的选择：

  • 在启动RAGFlow之前在service_conf.yaml.template中配置。
  • 登录RAGFlow后在模型提供商页面中配置。

在启动RAGFlow之前配置模型API密钥​

  1. 导航到**./docker/ragflow**。
  2. 找到user_default_llm条目：
    • 用您选择的LLM更新factory。
    • 用您的API密钥更新api_key。
    • 如果您使用代理连接到远程服务，请更新base_url。
  3. 重启系统使您的更改生效。
  4. 登录RAGFlow。 登录RAGFlow后，您将在模型提供商页面的已添加模型下找到您选择的模型。

登录RAGFlow后配置模型API密钥​

警告

登录RAGFlow后，通过service_conf.yaml.template文件配置模型API密钥将不再生效。

登录RAGFlow后，您只能在模型提供商页面配置API密钥：

  1. 点击页面右上角的徽标**>** 模型提供商。
  2. 在待添加模型下找到您的模型卡片，点击添加模型： add model
  3. 粘贴您的模型API密钥。
  4. 如果您使用代理连接到远程服务，请填入您的基础URL。
  5. 点击确定确认您的更改。
备注

要更新现有的模型API密钥： update api key