如何在 Qsirch RAG 搜索中使用大型语言模型?
适用产品
所有平台上的 Qsirch 5.6.0(或更高版本)
使用云 LLM 的 Qsirch RAG 搜索
Qsirch 支持将检索增强生成 (RAG) 与基于云的大型语言模型 (LLM) 结合使用,以提供准确且上下文感知的响应。当您输入查询时,Qsirch 将从 NAS 检索相关文档,并将其用作语言模型的上下文。在搜索中结合使用生成式 AI 使 Qsirch 可以基于您自己的数据生成精确而合理的答案。
将 RAG 与基于云的 AI 服务集成
要集成 RAG 搜索,必须先从您选择的 AI 服务获取 API 密钥。
ChatGPT (OpenAI API)
ChatGPT (OpenAI API) 提供功能强大的 GPT 模型,以获得 RAG 嵌入和生成式响应。请按照以下步骤申请 API 密钥:
- 在 OpenAI 上注册帐户:https://auth.openai.com/create-account
- 在帐户设置中创建 API 密钥。
有关更多信息,请参见 OpenAI API 文档。
Azure OpenAI
Azure OpenAI 通过 Azure 基础架构提供对 OpenAI 模型(如 GPT-4)的访问,这是企业解决方案的理想之选。请按照以下步骤申请 API 密钥:
- 登录 Azure 门户。
- 选择 OpenAI 资源(如果没有,请创建一个)。
- 在左侧菜单上,单击“Keys and Endpoint”(密钥和端点)。
- 复制 API 密钥并复制 API 请求的端点(基础 URL)。
有关详细信息,请参见 Azure OpenAI 文档。
Gemini (Google Cloud AI)
Gemini (Google Cloud AI) 提供一组设计用于实现高性能推理和 RAG 的模型。请按照以下步骤申请 API 密钥:
- 请访问 Google Gemini API 文档。
- 在 Google AI Studio 中获取 Gemini API 密钥。
- 登录您的 Google 帐户。
- 单击“Create API key”(创建 API 密钥)。
有关详细信息,请参见 Google Cloud AI 文档。
与 OpenAI 兼容的 API
与 OpenAI 兼容的 API 使用户可以使用相同 API 格式访问除 OpenAI 自有产品之外的各种其他 AI 模型,包括 DeepSeek 和 Grok。从而实现与针对 OpenAI API 构建的现有应用程序的无缝集成。请按照以下步骤申请 API 密钥:
- 选择支持与 OpenAI 兼容的 API 的提供商(例如 DeepSeek 或 Grok)。
- 在提供商的平台上注册。
- 在帐户设置中生成 API 密钥。
- 根据需要更新 API 端点和模型设置。
有关详细信息,请参见提供商的官方 API 文档。
在 Qsirch 中使用 RAG 搜索
- 转到设置 > 管理设置 > RAG 搜索。
- 完成 LLM 设置。
- (可选)验证您的 API 密钥。此操作可帮助检查 API 密钥是否有效。
- 添加更多与 OpenAI API 兼容的 AI 模型,包括 GPT 系列、DeepSeek 模型和 Grok 模型。
- 在 RAG 文件夹中,添加要用于 RAG 搜索的文件夹。
- 为 RAG 搜索选择文件格式。
- 应用这些设置。
- 转到 Qsirch,然后单击 RAG 搜索按钮。
- 键入关键字即可开始使用 RAG 搜索。