Skip to main content

聊天参数

在 Open WebUI 中,设置系统提示词高级参数有三个级别:按对话(per-chat)、按模型(per-model)和按账户(per-account)。这种层级系统在保持结构化管理和控制的同时,也提供了极大的灵活性。

系统提示词与高级参数层级表

级别定义修改权限覆盖能力
按对话特定聊天实例的系统提示词和高级参数用户可修改,但不能覆盖特定于模型的设置受限,无法覆盖特定于模型的设置
按账户特定用户账户的默认系统提示词和高级参数用户可设置,但可能被特定于模型的设置覆盖用户设置可被特定于模型的设置覆盖
按模型特定模型的默认系统提示词和高级参数管理员可设置,用户不可修改管理员特定的设置具有最高优先级,可覆盖用户设置

1. 按对话(Per-chat basis):

  • 描述:按对话设置是指为特定聊天实例配置的系统提示词和高级参数。这些设置仅适用于当前对话,不会影响未来的聊天。
  • 如何设置:用户可以在 Open WebUI 右侧边栏的聊天控制部分修改特定聊天实例的系统提示词和高级参数。
  • 覆盖能力:用户无法覆盖管理员已在按模型(#3)基础上设置的系统提示词或特定高级参数。这确保了与特定模型设置的一致性和合规性。
使用案例示例
tip

按对话: 假设用户想为特定对话设置自定义系统提示词。他们可以通过访问聊天控制部分并修改系统提示词字段来实现。这些更改将仅应用于当前聊天会话。

2. 按账户(Per-account basis):

  • 描述:按账户设置是指为特定用户账户配置的默认系统提示词和高级参数。任何特定于用户的更改都可以在未定义更低级别设置时作为备选方案(fallback)。
  • 如何设置:用户可以在 Open WebUI 的设置菜单中的常规部分设置自己账户的系统提示词和高级参数。
  • 覆盖能力:用户有权在其账户上设置自己的系统提示词,但必须注意,如果管理员已经为所使用的特定模型在按模型基础上设置了系统提示词或特定高级参数,则这些参数仍可能被覆盖。
使用案例示例
tip

按账户: 假设用户想为自己的账户设置专属的系统提示词。他们可以通过访问设置菜单并修改系统提示词字段来实现。

3. 按模型(Per-model basis):

  • 描述:按模型设置是指为特定模型配置的默认系统提示词和高级参数。这些设置适用于所有使用该模型的聊天实例。
  • 如何设置:管理员可以在 Open WebUI 的工作区中的模型部分为特定模型设置默认系统提示词和高级参数。
  • 覆盖能力用户账户被限制修改按模型(#3)基础上的系统提示词或特定高级参数。这种限制防止了用户不恰当地更改默认设置。
  • 上下文长度保留:当管理员在工作区部分手动设置模型的系统提示词或特定高级参数时,该系统提示词或手动设置的高级参数无法被用户账户在常规设置或聊天控制部分按账户进行覆盖或调整。这确保了一致性,并防止每当用户的上下文长度设置更改时模型频繁重新加载。
  • 模型优先级:如果管理员在工作区部分预设了模型的系统提示词或特定高级参数值,则用户账户在常规设置或聊天控制部分进行的任何上下文长度更改都将被忽略,从而保持该模型的预配置值。请注意,管理员未触及的参数仍可由用户账户按账户或按对话进行手动调整。
使用案例示例
tip

按模型: 假设管理员想为特定模型设置默认系统提示词。他们可以通过访问模型部分并修改相应模型的系统提示词字段来实现。任何使用该模型的聊天实例都将自动使用该模型的系统提示词和高级参数。

优化系统提示词设置以获得最大灵活性

tip

进阶技巧 此技巧适用于管理员和用户账户。为了让您的系统提示词获得最大的灵活性,我们建议考虑以下设置:

  • 在您的常规设置的系统提示词字段中分配您的主系统提示词(即赋予 LLM 一个核心性格)。这会在按账户级别进行设置,并允许它作为所有 LLM 的系统提示词工作,而无需在工作区部分的模型中进行调整。

  • 对于您的辅助系统提示词(即赋予 LLM 一个要执行的任务),对于管理员来说,可以选择将其放在聊天控制侧边栏的系统提示词字段中(按对话级别)或工作区部分的模型部分中(按模型级别)直接设置。这允许您的账户级系统提示词与聊天控制提供的对话级系统提示词或模型部分提供的模型级系统提示词协同工作。

  • 作为管理员,您应该使用模型部分在按模型基础上分配 LLM 参数,以获得最佳灵活性。对于这两个辅助系统提示词,请确保以最大化灵活性并最小化跨不同账户或对话实例所需调整的方式进行设置。管理员账户和所有用户账户都必须理解聊天控制模型部分中的系统提示词应用于 LLM 的优先级顺序,这一点至关重要。