Hugging Face Inference Model(Hugging Face 推理模型)
使用 Hugging Face Inference Model 节点来使用 Hugging Face 模型。
本页列出了 Hugging Face Inference Model 节点的参数,并提供更多资源的链接。
此节点不支持工具,因此无法与 AI Agent 节点配合使用。请将其连接到 Basic LLM Chain 节点。
信息
凭据
此节点的身份验证信息,请参阅 Hugging Face 凭据文档。
信息
子节点中的参数解析
使用表达式处理多个数据项时,子节点的行为与其他节点不同。
多数节点,包括根节点,可以 接收任意数量的输入数据项,处理后输出结果。你可以用表达式引用输入数据项,节点会依次对每个数据项解析表达式。例如,输入包含五个 name 值时,表达式 {{ $json.name }} 会依次解析为每个名称。
在子节点中,表达式始终解析为第一个数据项。例如,输入包含五个 name 值时,表达式 {{ $json.name }} 始终解析为第一个名称。
节点参数
- Model(模型):选择用于生成补全的模型。
节点选项
- Custom Inference Endpoint(自定义推理端点):输入自定义推理端点 URL。
- Frequency Penalty(频率惩罚):控制模型重复自身内容的可能性。值越高,重复的可能性越低。
- Maximum Number of Tokens(最大 token 数):输入使用的 token 数量上限,以设置补全长度。
- Presence Penalty(存在惩罚):控制模型谈论新话题的可能性。值越高,谈论新话题的可能性越高。
- Sampling Temperature(采样温度):控制采样过程的随机性。温度越高,采样结果越多样,但产生幻觉的风险也越高。
- Top K:输入模型生成下一个 token 时考虑的候选 token 数量。
- Top P:设置补全使用的概率范围。较低值会忽略概率较低的选项。
模板与示例
浏览 Hugging Face Inference Model(Hugging Face 推理模型) 集成模板,或搜索所有模板
相关资源
查看 n8n 的高级 AI 文档。
本文为社区中文翻译。查看对应英文原文