先确认本地 API 已启动
OpenClaw 连接本地大模型,本质上是调用本机上的 OpenAI 兼容接口,不是把模型文件直接塞进 OpenClaw。所以第一步永远是:Ollama 或 LM Studio 已经在跑,并且你知道端口和模型名。
Ollama 默认地址是 http://127.0.0.1:11434,LM Studio 本地服务器通常在 http://127.0.0.1:1234/v1。在浏览器或 curl 里先测一下,例如向 /v1/models 发请求能返回列表,再进 OpenClaw 配置,能省掉一半「连不上」的排查时间。
- Ollama:终端执行 ollama pull llama3.2 后 ollama serve(多数安装版会自动起服务)。
- LM Studio:在 Local Server 页选择模型,点 Start Server,记下端口。
- 验证:curl http://127.0.0.1:11434/v1/models 或 LM Studio 显示的测试地址。
在 OpenClaw 里添加 Ollama
打开 OpenClaw 设置 → 模型 / Model Providers,新增一个 OpenAI 兼容端点。Base URL 填 http://127.0.0.1:11434/v1(注意末尾 /v1),API Key 可填 ollama 或任意占位符——Ollama 本地默认不校验 key。
模型名称必须和 ollama list 里的一致,比如 llama3.2、qwen2.5:7b。名称写错时常见现象是连接成功但推理报错「model not found」。保存后选该模型发一条短消息测试,能回复就说明链路通了。
在 OpenClaw 里添加 LM Studio
LM Studio 同样走 OpenAI 兼容 API。Base URL 用 LM Studio 界面显示的地址,一般是 http://127.0.0.1:1234/v1。API Key 填 lm-studio 或留空(以你版本说明为准)。
模型名填 LM Studio 当前加载的模型 ID,有时带路径前缀。若 OpenClaw 列表里看不到模型,先在 LM Studio 的 Server 日志里确认 /v1/chat/completions 能正常响应,再回到 OpenClaw 刷新模型列表或手动输入名称。
常见连不上原因
第一,Base URL 漏了 /v1 或多了斜杠,OpenClaw 会报 404。第二,防火墙或代理把 127.0.0.1 请求转走——本地模型务必用 localhost,不要填局域网 IP 除非你知道端口已暴露。第三,模型未加载完成就测试,LM Studio 大模型首次加载可能要几分钟。
第四,混用云端和本地模型时,工作流里若默认仍是 GPT-4,你以为在用本地,实际还在调云端。在 OpenClaw 对话或 Agent 配置里把默认模型显式改成刚添加的本地端点。
本地模型的适用场景与限制
本地模型适合:草稿写作、代码补全思路、内网文档摘要、不想把敏感草稿发到云端的场景。不适合:指望 7B 量化模型稳定完成复杂多步 Agent、长上下文法律尽调、或和 Claude 3.5 同级别的推理质量。
更务实的用法是把本地模型当「第一遍草稿 + 隐私缓冲」,定稿、SEO 质检、多语言润色仍可用云端模型,并在 OpenClaw 工作流里写清哪一步必须本地、哪一步可以上云。多模型分工可参考本站「OpenClaw 多模型工作流」一文。
本地大模型配置常见问题
OpenClaw 支持哪些本地大模型后端?
常见做法是连接 Ollama 或 LM Studio 提供的 OpenAI 兼容 API。先在本地启动模型服务,再在 OpenClaw 设置里填入 Base URL(如 http://127.0.0.1:11434/v1)和模型名称。
Ollama 和 LM Studio 选哪个?
Ollama 更适合命令行和轻量部署,LM Studio 图形界面更友好、方便切换 GGUF 模型。两者都能给 OpenClaw 提供本地 API,按你习惯选即可。
连接本地模型后数据还会上传到云端吗?
若全程使用本机 API 且未配置云端模型,推理在本地完成。但若你在 OpenClaw 里同时启用了 ChatGPT、Claude 等云端模型,对应请求仍会发往厂商服务器。
本地模型响应很慢怎么办?
优先换更小量化版本(如 Q4)、确认 GPU 是否被调用、关闭其他占显存程序。CPU 推理大模型时延迟明显,属于硬件限制而非配置错误。