先确认本地 API 已启动

OpenClaw 连接本地大模型,本质上是调用本机上的 OpenAI 兼容接口,不是把模型文件直接塞进 OpenClaw。所以第一步永远是:Ollama 或 LM Studio 已经在跑,并且你知道端口和模型名。

Ollama 默认地址是 http://127.0.0.1:11434,LM Studio 本地服务器通常在 http://127.0.0.1:1234/v1。在浏览器或 curl 里先测一下,例如向 /v1/models 发请求能返回列表,再进 OpenClaw 配置,能省掉一半「连不上」的排查时间。

  • Ollama:终端执行 ollama pull llama3.2 后 ollama serve(多数安装版会自动起服务)。
  • LM Studio:在 Local Server 页选择模型,点 Start Server,记下端口。
  • 验证:curl http://127.0.0.1:11434/v1/models 或 LM Studio 显示的测试地址。

在 OpenClaw 里添加 Ollama

打开 OpenClaw 设置 → 模型 / Model Providers,新增一个 OpenAI 兼容端点。Base URL 填 http://127.0.0.1:11434/v1(注意末尾 /v1),API Key 可填 ollama 或任意占位符——Ollama 本地默认不校验 key。

模型名称必须和 ollama list 里的一致,比如 llama3.2、qwen2.5:7b。名称写错时常见现象是连接成功但推理报错「model not found」。保存后选该模型发一条短消息测试,能回复就说明链路通了。

在 OpenClaw 里添加 LM Studio

LM Studio 同样走 OpenAI 兼容 API。Base URL 用 LM Studio 界面显示的地址,一般是 http://127.0.0.1:1234/v1。API Key 填 lm-studio 或留空(以你版本说明为准)。

模型名填 LM Studio 当前加载的模型 ID,有时带路径前缀。若 OpenClaw 列表里看不到模型,先在 LM Studio 的 Server 日志里确认 /v1/chat/completions 能正常响应,再回到 OpenClaw 刷新模型列表或手动输入名称。

常见连不上原因

第一,Base URL 漏了 /v1 或多了斜杠,OpenClaw 会报 404。第二,防火墙或代理把 127.0.0.1 请求转走——本地模型务必用 localhost,不要填局域网 IP 除非你知道端口已暴露。第三,模型未加载完成就测试,LM Studio 大模型首次加载可能要几分钟。

第四,混用云端和本地模型时,工作流里若默认仍是 GPT-4,你以为在用本地,实际还在调云端。在 OpenClaw 对话或 Agent 配置里把默认模型显式改成刚添加的本地端点。

本地模型的适用场景与限制

本地模型适合:草稿写作、代码补全思路、内网文档摘要、不想把敏感草稿发到云端的场景。不适合:指望 7B 量化模型稳定完成复杂多步 Agent、长上下文法律尽调、或和 Claude 3.5 同级别的推理质量。

更务实的用法是把本地模型当「第一遍草稿 + 隐私缓冲」,定稿、SEO 质检、多语言润色仍可用云端模型,并在 OpenClaw 工作流里写清哪一步必须本地、哪一步可以上云。多模型分工可参考本站「OpenClaw 多模型工作流」一文。

本地大模型配置常见问题

OpenClaw 支持哪些本地大模型后端?

常见做法是连接 Ollama 或 LM Studio 提供的 OpenAI 兼容 API。先在本地启动模型服务,再在 OpenClaw 设置里填入 Base URL(如 http://127.0.0.1:11434/v1)和模型名称。

Ollama 和 LM Studio 选哪个?

Ollama 更适合命令行和轻量部署,LM Studio 图形界面更友好、方便切换 GGUF 模型。两者都能给 OpenClaw 提供本地 API,按你习惯选即可。

连接本地模型后数据还会上传到云端吗?

若全程使用本机 API 且未配置云端模型,推理在本地完成。但若你在 OpenClaw 里同时启用了 ChatGPT、Claude 等云端模型,对应请求仍会发往厂商服务器。

本地模型响应很慢怎么办?

优先换更小量化版本(如 Q4)、确认 GPU 是否被调用、关闭其他占显存程序。CPU 推理大模型时延迟明显,属于硬件限制而非配置错误。

把这套方法放进 OpeClaw 工作流

先核对 OpeClaw 当前下载状态,再把本文模板保存成自己的写作、改写和发布前检查流程。