Ollama Chat Model（Ollama 聊天模型） 节点

Ollama Chat Model 节点支持将本地 Llama 2 模型与对话智能体¹配合使用。

本页列出了 Ollama Chat Model 节点的参数，并提供更多资源的链接。

信息

凭据

此节点的身份验证信息，请参阅 Ollama 凭据文档。

信息

子节点中的参数解析

使用表达式处理多个数据项时，子节点的行为与其他节点不同。

多数节点，包括根节点，可以接收任意数量的输入数据项，处理后输出结果。你可以用表达式引用输入数据项，节点会依次对每个数据项解析表达式。例如，输入包含五个 name 值时，表达式 {{ $json.name }} 会依次解析为每个名称。

在子节点中，表达式始终解析为第一个数据项。例如，输入包含五个 name 值时，表达式 {{ $json.name }} 始终解析为第一个名称。

节点参数

• Model（模型）：选择用于生成补全的模型，可选：
  • Llama2（Llama2 模型）
  • Llama2 13B（130 亿参数）
  • Llama2 70B（700 亿参数）
  • Llama2 Uncensored（未审查版本）

可用模型的更多信息，请参阅 Ollama 的模型库文档。

节点选项

• Sampling Temperature（采样温度）：控制采样过程的随机性。温度越高，采样结果越多样，但产生幻觉的风险也越高。
• Top K：输入模型生成下一个 token 时考虑的候选 token 数量。
• Top P：设置补全使用的概率范围。较低值会忽略概率较低的选项。

模板与示例

浏览 Ollama Chat Model（Ollama 聊天模型）集成模板，或搜索所有模板

相关资源

该服务的更多信息，请参阅 LangChain 的 Ollama Chat Model 文档。

查看 n8n 的高级 AI 文档。

常见问题

常见问题及建议的解决办法，请参阅常见问题。

自行托管 AI 入门套件

刚开始使用 AI 和自行托管的 n8n？可试用 n8n 的自行托管 AI 入门套件，通过 Ollama、Qdrant 和 PostgreSQL 搭建概念验证或演示环境。

Footnotes

1. AI 智能体是能够响应请求、作出决策并为用户执行现实任务的人工智能系统。它们使用大型语言模型（LLM）理解用户输入，并根据可用的信息和资源，决定如何最好地处理请求。 ↩