分类组件
对用户输入进行分类并相应地应用策略的组件。
分类组件通常是交互组件的下游。
场景
当您需要 LLM 帮助您识别用户意图并应用适当的处理策略时,分类组件是必不可少的。
配置
查询变量
必填
选择分类的源。
分类组件依赖查询变量来指定其数据输入(查询)。在分类组件之前定义的所有全局变量都可在下拉列表中使用。
输入
分类组件依赖输入变量来指定其数据输入(查询)。在输入部分点击**+ 添加变量以添加所需的输入变量。有两种类型的输入变量:引用和文本**。
- 引用:使用组件的输出或用户输入作为数据源。您需要从下拉菜单中选择:
- 组件输出下的组件 ID,或
- 开始输入下的全局变量,它们在开始组件中定义。
- 文本:使用固定文本作为查询。您需要输入静态文本。
模型
点击模型的下拉菜单以显示模型配置窗口。
- 模型:要使用的聊天模型。
- 确保您在模型提供商页面上正确设置了聊天模型。
- 您可以为不同的组件使用不同的模型,以增加灵活性或提高整体性能。
- 自由度:温度、Top P、存在惩罚和频率惩罚设置的快捷方式,表示模型的自由度级别。从即兴、精确到平衡,每个预设配置对应温度、Top P、存在惩罚和频率惩罚的独特组合。
此参数有三个选项:
- 即兴:产生更有创意的响应。
- 精确:(默认)产生更保守的响应。
- 平衡:即兴和精确之间的中间地带。
- 温度:模型输出的随机性级别。
默认值为 0.1。
- 较低的值导致更确定性和可预测的输出。
- 较高的值导致更有创意和多样化的输出。
- 温度为零会对相同的提示产生相同的输出。
- Top P:核采样。
- 通过设置阈值 P 并将采样限制为累积概率超过 P 的标记,来减少 生成重复或不自然文本的可能性。
- 默认值为 0.3。
- 存在惩罚:鼓励模型在响应中包含更多样化的标记。
- 较高的存在惩罚值会导致模型更可能生成尚未包含在生成文本中的标记。
- 默认值为 0.4。
- 频率惩罚:阻止模型在生成的文本中过于频繁地重复相同的单词或短语。
- 较高的频率惩罚值会导致模型在使用重复标记时更加保守。
- 默认值为 0.7。
注意
- 不必为所有组件使用相同的模型。如果特定模型在某个特定任务上表现不佳,请考虑使用不同的模型。
- 如果您不确定温度、Top P、存在惩罚和频率惩罚背后的机制,只需选择预设配置的三个选项之一。
消息窗口大小
指定要输入到 LLM 的先前 对话轮数的整数。例如,如果设置为 12,则来自最后 12 轮对话的标记将被输入到 LLM。此功能消耗额外的标记。
默认值为 1。
重要
此功能仅用于多轮对话。如果您的分类组件不是多轮对话的一部分(即,它不在循环中),请保持此字段不变。
类别名称
分类组件必须至少有两个类别。此字段设置类别的名称。点击**+ 添加项目**以包含预期的类别。
注意
您会注意到类别名称是自动填充的。不用担心。每个类别在创建时都分配一个随机名称。随时将其更改为 LLM 可理解的名称。
描述
此类别的描述。
您可以输入可能帮助 LLM 确定哪些输入属于此类别的标准、情况或信息。
示例
可能帮助 LLM 确定哪些输入属于此类别的其他示例。
重要
如果您希望 LLM 将特定情况分类到此类别中,示例比描述更有帮助。
添加新类别后,导航到画布上的分类组件,找到案例旁边的**+**按钮,点击它来指定下游组件。
输出
组件输出的全局变量 名,可被工作流中的其他组件引用。默认为 category_name。