Skip to main content

过滤器 (Filters)

过滤器 (Filters)​

过滤器用于对传入的用户消息和传出的助手 (LLM) 消息执行操作。过滤器中可以采取的潜在操作包括：将消息发送到监控平台（如 Langfuse 或 DataDog）、修改消息内容、阻止有毒消息、将消息翻译成另一种语言，或对某些用户的消息进行速率限制。Pipelines 仓库中维护了一个示例列表。过滤器可以作为 Function (函数) 执行，也可以在 Pipelines 服务器上执行。常规工作流如下图所示。

过滤器工作流

当在模型或 Pipe 上启用过滤器流水线时，来自用户的传入消息（即 "inlet"）将传递给过滤器进行处理。过滤器在向 LLM 模型请求聊天完成之前对消息执行所需的操作。最后，过滤器在传出的 LLM 消息（即 "outlet"）发送给用户之前对其执行后处理。