warning

这篇教程是社区贡献的，不属于 Open WebUI 官方团队的支持范围。它仅作为如何针对您的特定用例自定义 Open WebUI 的演示。想要贡献？请查看贡献教程。

将 Continue.dev VS Code 扩展与 Open WebUI 集成

下载扩展

您可以在 Visual Studio Marketplace 下载 VS Code 扩展，或者直接在 VS Code 的 扩展：市场 中搜索 continue 进行下载。安装完成后，您可以通过 VS Code 侧边栏的 continue 标签页访问该应用程序。

VS Code 侧边栏图标：

设置

点击主聊天输入框右侧的助手选择器。然后将鼠标悬停在 Local Assistant 上，并点击设置图标 (⚙️)。这将在您的编辑器中打开 config.yaml 文件。您可以在此处更改 Local Assistant 的设置。

continue.dev chat input

info

目前 ollama 提供商不支持身份验证，因此我们无法在 Open WebUI 中直接使用该提供商。但是，Ollama 和 Open WebUI 都与 OpenAI API 规范兼容。欲了解更多关于该规范的信息，请阅读 Ollama 关于 OpenAI 兼容性的博客文章。我们仍然可以将 continue.dev 设置为使用 openai 提供商，从而允许我们使用 Open WebUI 的身份验证令牌。

配置示例

下面是一个使用 Llama3 作为模型并结合本地 Open WebUI 设置的配置示例。

name: Local Assistant
version: 1.0.0
schema: v1
models:
  - name: LLama3
    provider: openai
    model: Meta-Llama-3-8B-Instruct-Q4_K_M.gguf
    env:
      useLegacyCompletionsEndpoint: false
    apiBase: http://localhost:3000/api
    apiKey: YOUR_OPEN_WEBUI_API_KEY
    roles:
      - chat
      - edit
context:
  - provider: code
  - provider: docs
  - provider: diff
  - provider: terminal
  - provider: problems
  - provider: folder
  - provider: codebase

其他配置设置

扩展需要这些值才能正常工作。欲了解更多信息，请参阅官方配置指南。

name: Local Assistant
version: 1.0.0
schema: v1

context（上下文）部分为模型提供了额外信息。欲了解更多信息，请参阅官方配置指南和上下文提供商指南。

context:
  - provider: code
  - provider: docs
  - provider: diff
  - provider: terminal
  - provider: problems
  - provider: folder
  - provider: codebase

模型

models（模型）部分是您指定想要添加的所有模型的地方。欲了解更多信息，请参阅官方模型指南。

models:
  - ...

名称

设置您想要使用的模型的名称。这将显示在扩展的聊天输入框中。

name: LLama3

continue.dev chat input

提供商

指定用于与 API 通信的方法，在我们的案例中，是 Open WebUI 提供的 OpenAI API 端点。

provider: openai

模型

这是您在 Open WebUI 中模型的实际名称。导航到 管理员面板 > 设置 > 模型，然后点击您偏好的大语言模型 (LLM)。在用户给定的名称下方，您会找到实际的模型名称。

model: Meta-Llama-3-8B-Instruct-Q4_K_M.gguf

旧版补全端点

Open WebUI 不需要此设置，不过在原始指南中可以找到更多信息。

env:
  useLegacyCompletionsEndpoint: false

API 基地址

这是关键的一步：您需要将 continue.dev 扩展的请求定向到您的 Open WebUI 实例。如果实例托管在某处，请使用实际的域名（例如 https://example.com/api），或者使用您的本地主机设置（例如 http://localhost:3000/api）。您可以在 API 端点指南中找到有关 URL 的更多信息。

apiBase: http://localhost:3000/api

API 密钥

要通过 Open WebUI 实例进行身份验证，您需要生成一个 API 密钥。按照本指南中的说明进行创建。

apiKey: YOUR_OPEN_WEBUI_API_KEY

角色

角色将允许扩展将您的模型用于某些任务。初次使用时，您可以选择 chat（聊天）和 edit（编辑）。您可以在官方角色指南中找到有关角色的更多信息。

roles:
  - chat
  - edit

设置现已完成，您可以通过聊天输入框与您的模型进行交互。欲了解更多关于 continue.dev 插件的功能和用法，请参阅官方文档。

下载扩展​

设置​

配置示例​

其他配置设置​

模型​

名称​

提供商​

模型​

旧版补全端点​

API 基地址​

API 密钥​

角色​