本内容经过机器翻译。请参见机器翻译免责声明。

How to Set up On-Prem Qsirch RAG

如何设置本地 Qsirch RAG

最后修订日期: 2025-10-28

适用产品

Qsirch 6.0.0（或更高版本）在 QuTS hero 平台上

对于需要完整数据隐私或离线 AI 的优异用户和企业，Qsirch 在本地托管的 LLM 上运行 RAG。所有操作都在您的 NAS 或连接的硬件上进行——没有数据离开您的环境。

硬件推荐

- GPUs: RTX 6000 Ada 和 RTX 4000 Ada

- QuTS hero 5.2.1 或更高版本

- 已安装并启用 LLM Core

- 前往控制台 > 硬件 > 硬件资源 > 资源使用 > Container Station 模式

LLM Core 将大型语言模型直接带到您的 NAS，让 Qsirch 在不使用云服务的情况下私密高效地运行 RAG。通过内置的模型管理，您可以下载、组织和切换本地模型，然后在 Qsirch 中使用它们进行生成。所有操作都在您的硬件上进行，以控制性能和隐私。

当前支持的本地模型（列表会随时间更新；请在应用程序中查看全新模型）：

前往 设置 > 管理员设置 > RAG 搜索 > 本地服务。
如果 LLM Core 未安装 / 启用，请点击 立即启用 以进入 App Center 并安装 / 启用 LLM Core。
如果 GPU 卡未设置为 Container Station 模式，请点击 立即启用 以进入控制台并将 GPU 设置为 Container Station 模式。

这篇文章有帮助吗？

是否

请告诉我们如何改进这篇文章：

如果您想提供其他意见，请于下方输入。