Skip to main content

Open WebUI RAG 教程

warning

本教程为社区贡献,不属于 Open WebUI 官方团队的支持范围。它仅作为如何针对特定用例自定义 Open WebUI 的演示。想要贡献?请查看贡献教程。

教程:使用 Open WebUI 文档配置 RAG

在本教程中,您将学习如何在 Open WebUI 中使用检索增强生成 (RAG),将现实世界的文档加载为知识库。我们将以使用最新的 Open WebUI 官方文档作为示例来进行配置演示。


概述

什么是 RAG?

检索增强生成 (RAG) 将 LLM 与从外部源检索到的知识相结合。系统从上传的文档或知识库中检索相关数据,从而提高响应的质量和准确性。

本教程演示了如何:

  • 上传最新的 Open WebUI 文档作为知识库。
  • 将其连接到自定义模型。
  • 查询知识库以获得更精准的辅助。

设置

分步设置:将 Open WebUI 文档作为知识库

按照以下步骤使用 Open WebUI 文档设置 RAG:

  1. 下载文档

  2. 解压文件

    • 解压 main.zip 文件以获取所有文档文件。
  3. 定位 Markdown 文件

    • 在解压后的文件夹中,找到所有以 .md.mdx 结尾的文件(提示:搜索 *.md*)。
  4. 创建知识库

    • 导航至 工作区 (Workspace) > 知识库 (Knowledge) > + 创建知识库 (+ Create a Knowledge Base)
    • 您的工作内容:Open WebUI Documentation
    • 您想实现的目标:辅助 (Assistance)
    • 可见性:私有 (Private)
    • 组:如果需要,选择一个组。

    点击 创建知识库 (Create Knowledge)

  5. 上传文件

    • 将解压文件夹中的 .md.mdx 文件拖放到 Open WebUI Documentation 知识库中。

创建并配置模型

使用知识库创建自定义模型

  1. 导航至模型

    • 前往 工作区 (Workspace) > 模型 (Models) > + 添加新模型 (+ Add New Model)
  2. 配置模型

    • 名称 (Name)Open WebUI
    • 基础模型 (Base Model)(选择合适的 Llama 或其他可用模型)
    • 知识源 (Knowledge Source):从下拉菜单中选择 Open WebUI Documentation
  3. 保存模型


示例与用法

查询 Open WebUI 文档模型

  1. 开始新对话

    • 导航至 新对话 (New Chat) 并选择 Open WebUI 模型。
  2. 查询示例

    用户:"我该如何配置环境变量?"
    系统:"请参考第 3.2 节:使用 `.env` 文件来管理配置。"
    用户:"我该如何使用 Docker 更新 Open WebUI?"
    系统:"请参考 `docker/updating.md`:使用 `docker pull` 并重启容器。"

    使用启用了 RAG 的模型后,系统会从文档中检索最相关的部分来回答您的查询。


后续步骤

下一步

  • 添加更多知识:通过添加更多文档来继续扩展您的知识库。

通过此设置,您可以有效地利用 Open WebUI 官方文档,通过检索相关信息来协助用户解决问题。享受构建和查询自定义知识增强模型的乐趣吧!