Skip to main content

🛠️ 工具与函数 (Tools & Functions)

想象一下,您刚刚偶然发现了 Open WebUI,或者可能已经在使用了,但对所有关于“工具 (Tools)”、“函数 (Functions)”和“流水线 (Pipelines)”的讨论感到有些迷茫。听起来都像是些神秘的技术术语,对吧?别担心!让我们一步一步、清晰明了地拆解它们。读完本文,您将扎实地理解这些术语的含义、它们的工作原理,并明白它们其实并没有看起来那么复杂。

简明摘要 (TL;DR)

  • 工具 (Tools) 扩展了 LLM 的能力,允许它们收集现实世界、实时的数据,如天气、股票价格等。
  • 函数 (Functions) 扩展了 Open WebUI 本身的功能,使您能够添加新的 AI 模型支持(如 Anthropic 或 Vertex AI)或提高可用性(如创建自定义按钮或过滤器)。
  • 流水线 (Pipelines) 更多地针对高级用户,他们希望将 Open WebUI 的功能转换为与 API 兼容的工作流——主要用于分担繁重的处理任务。

开始使用工具和函数非常简单,因为一切都已经内置在核心系统中了!您只需点击一个按钮,然后直接从社区导入这些功能,因此不需要编写代码或进行深度的技术工作。

什么是“工具”和“函数”?

首先,让我们把 Open WebUI 想象成一个“基础”软件,它可以执行许多与使用大语言模型 (LLM) 相关的任务。但有时,您需要一些开箱即用的功能之外的额外特性或能力——这就是工具函数发挥作用的地方。

工具 (Tools)

工具是一个令人兴奋的功能,因为它们允许 LLM 不仅仅处理文本。它们提供了 LLM 自身无法拥有的外部能力

工具示例:

假设您正在与 LLM 聊天,并且希望它为您提供最新的天气更新或实时股票价格。通常情况下,LLM 无法做到这一点,因为它只是基于预训练的知识进行工作。这就是工具派上用场的地方!

  • 工具就像插件,LLM 可以利用它们来收集现实世界、实时的数据。因此,在启用了“天气工具”的情况下,模型可以访问互联网,收集实时天气数据,并将其显示在您的对话中。

工具本质上是您赋予 AI 的能力,以帮助它与外部世界互动。通过添加这些工具,LLM 可以根据对话的上下文“抓取”有用的信息或执行专门的任务。

工具示例(扩展 LLM 的能力):

  1. 实时天气预报 🛰️。
  2. 股票价格检索器 📈。
  3. 航班追踪信息 ✈️。

函数 (Functions)

虽然工具是由 AI 在对话过程中使用的,但函数则帮助扩展或定制 Open WebUI 本身的能力。想象一下,工具就像是在菜肴中添加新的食材,而函数则是您用来控制厨房的流程!🚪

让我们拆解一下:

  • 函数让您能够调整或添加 Open WebUI 本身的功能
  • 您不是在赋予 LLM 新的能力,而是在扩展平台本身的界面、行为或逻辑

例如,您可能想:

  1. 在 WebUI 中添加一个新的 AI 模型,如 Anthropic
  2. 在工具栏中创建一个执行常用命令的自定义按钮。
  3. 实现一个更好的过滤器 (Filter) 函数,从传入的文本中捕捉不当内容或垃圾消息

如果没有函数,这些都无法实现。但在 Open WebUI 的这个框架下,您可以轻松扩展这些功能!

在哪里查找和管理函数

函数与工具并不在同一个地方。

  • 工具关乎模型访问,位于您的工作区 (Workspace) 标签页中(您在此处添加模型、提示词和知识库)。如果被授予权限,用户可以添加工具。
  • 函数关乎平台定制,位于管理面板中。它们仅由希望为所有用户扩展平台界面或行为的管理员进行配置和管理。

区别总结:

  • 工具是允许 LLM 在其默认能力之外做更多事情的东西(例如检索实时信息或根据外部数据执行自定义任务)。
  • 函数帮助 WebUI 本身做更多事情,例如添加新的 AI 模型或创建更智能的数据过滤方式。

两者都设计为可插拔的,这意味着您可以从社区一键导入到您的系统中!🎉 您无需花费数小时编写代码或进行修补。

什么是流水线 (Pipelines)?

然后,我们有 Pipelines…… 这里的事情开始听起来非常技术化了——但不要绝望。

Pipelines 是 Open WebUI 的一项倡议,专注于使 WebUI 的每一部分都能够与 OpenAI 的 API 系统互操作系统。从本质上讲,它们扩展了工具函数已经可以实现的功能,但现在具有更大的灵活性。它们允许您将功能转换为与 OpenAI API 兼容的格式。🧠

但关键点在于……

除非您正在处理超高级的设置,否则您可能不需要流水线。

  • 流水线是给谁用的? 通常是专家或运行更复杂用例的人。
  • 您什么时候需要它们? 如果您尝试将处理任务从主 Open WebUI 实例分担到另一台机器(这样您就不会让主系统过载)。

在大多数情况下,作为初学者甚至中级用户,您不必担心流水线。只需专注于享受工具函数为您的 Open WebUI 体验带来的好处即可!

想尝试吗? 🚀

跳进 Open WebUI,前往社区部分,尝试导入一个像天气更新这样的工具,或者尝试用函数向工具栏添加一个新功能。探索这些工具将向您展示 Open WebUI 是多么强大和灵活!

🌟 总有更多东西需要学习,所以请保持好奇心并不断实验!