为什么需要 AI Service Center
-
统一界面
集中管理本地端与云端 AI 服务
-
一次性设置
所有应用程序共用同一组模型
-
用量可控
Token 与花费均可设置上限
只需设置一次,所有应用程序均可使用 AI
每个应用程序各自集成
应用程序各自寻找模型、各自保管 API 密钥;整体用量难以掌握,云端支出要等账单产生才会知道。
模型与密钥集中设置一次
模型与密钥集中设置一次。应用程序仅需声明所需能力,由 AI Service Center 决定使用哪个模型、在本地端或云端执行,且只会使用管理员核准过的模型。
统一集成架构
本地模型
CPU、GPU、集显、NPU
云端服务
OpenAI、Azure OpenAI、Gemini、Claude、OpenAI 兼容
四个管理页面,涵盖模型、成本、路由与稽核
点击左侧任一页面,可展开该页面的说明与实际产品画面。
模型部署无需命令行操作
AI Service Center 提供经 QNAP 验证的模型清单,两步即可完成部署。
从清单中选择模型
每个模型都标示文件大小、内存需求、硬件兼容性、当前状态与使用中的应用程序。
指定运算装置
CPU、GPU、集成显卡或 NPU。选定后系统会自动在后台完成下载与加载,不会中断其他操作。
依 GPU 环境安装
NVIDIA 环境需 NVIDIA AI Runtime 及 LLM Core;Intel 环境需 Intel AI Runtime 及 LLM Core (Intel)。
云端 AI 支出即时可见
云端 AI 的支出通常要等账单产生才知道。本页面让管理员一目了然各云端供应商的活跃状态与费用——哪些正在运行、本月累计花费多少、哪一个接近预算上限。
预算上限与警示
新增供应商时即可设置月预算与警告阈值,达到上限时自动停止服务。
金钥不会离开 NAS
API 金钥仅存储于本机 NAS,不会传送至 QNAP 服务器。
仅启用的模型可用
没有被管理员勾选启用的模型,应用程序将无法调用。
应用程序与模型的对应关系一览
管理员可在单一页面为每项能力指定本地端模型、决定是否开放云端,以及可用的云端模型。应用程序安装时会自动注册并声明所需能力。
变更一次,全部套用
更换模型只需调整一处,所有应用程序同步生效。
逐一决定云端开放
仅允许特定应用程序使用云端服务,其余均保留在本地。
清单仅列出已启用模型
仅显示已在供应商设置中启用的模型,避免误选。
稽核记录无需切换程序
与 AI Service Center 相关的系统事件现已集中于同一界面,无需另行开启 QuLog Center 主程序,或在两个界面之间切换。
每次调用都会保存
存取记录完整记录时间、应用程序、模型、能力、Token 数、成本与延迟。
可筛选与导出
依应用程序、能力、状态筛选与排序,并可导出 CSV。
费用归属于模型
根据设定的单价估算费用,可归属于各个模型。
系统需求与硬件限制
AI Service Center 的可用功能依 NAS 的处理器架构而异。云端供应商在所有支持机种上皆可使用;地端模型库则需要 x86 机种与通过验证的 GPU。
| 项目 | x86 机种 | ARM64 机种 |
|---|---|---|
| 支持功能 | 支持完整功能,含云端供应商与本地模型库 | 仅支持云端供应商,不支持本地模型库 |
| 作业系统 | QTS 6.1.0(含)以上,或 QuTS hero h6.1.0(含)以上 | QTS 6.1.0(含)以上,或 QuTS hero h6.1.0(含)以上 |
| 云端供应商 | 无需 GPU 即可使用 | 无需 GPU 即可使用 |
| 可连接的云端服务 | 通过 API 密钥连接 OpenAI、Azure OpenAI、Gemini、Claude、OpenAI 兼容等云端服务 | 通过 API 密钥连接 OpenAI、Azure OpenAI、Gemini、Claude、OpenAI 兼容等云端服务 |
| 本地模型库 | 需具备通过兼容性验证的 GPU,并安装对应的执行环境与模型套件,以确保模型能在本机端顺利加载与运行 | 不支持 |
| 执行环境套件 | NVIDIA 环境:NVIDIA AI Runtime、LLM Core Intel 环境:Intel AI Runtime、LLM Core (Intel) |
不支持 |
常见问题
本地模型库在 NAS 自身的硬件上运行模型。数据不会离开 NAS,也没有按次计费。但需要一张通过兼容性验证的 GPU 或 NPU,并且只能使用可在本地运行的模型。
云端供应商使用你自己的 API 密钥,将请求发送到外部 AI 服务。不需要额外硬件即可使用更大或更新的模型,但每一次请求都会通过互联网发送,费用也直接支付给该供应商。
- 使用本地模型库时,数据不会离开 NAS——请求与响应都保留在本机。
- 使用云端供应商时,请求会以你提供的 API 密钥,经由互联网送往该供应商自己的服务。从那一刻起,你的数据依该供应商的隐私政策处理,而非 QNAP 的政策。
- AI Service Center 本身没有授权费用。
- 使用本地模型库,除了你已拥有的 NAS 之外无需额外费用。
- 使用云端供应商需要你自己在该供应商开立的账户。费用依用量直接支付给供应商,AI Service Center 不额外加收。新增供应商时由你自行填写该供应商的单价,AI Service Center 才能据此估算花费。