Ollama：一行命令跑起本地大模型

Ollama 是一个用 Go 写的开源本地大模型运行器，一行命令就能把 Llama、Qwen、DeepSeek、Gemma 等开放权重模型跑在你自己的机器上。

Ollama 把 llama.cpp 推理引擎包在统一的 CLI 和 REST API 之后，让你免编译即可本地跑模型，也能通过 ollama launch 把模型接进 Claude Code、Codex 等 coding agent。下面讲清它做什么、怎么装、适合谁。

工具信息

核心能力

一行命令拉取并运行模型。 ollama run gemma4 即可下载并开聊，不用自己找 GGUF、编译后端。场景：想试 DeepSeek 或 Qwen 的效果，一条命令拉起，零 API key、零按量账单。

本地 REST API 与客户端。 默认在 localhost:11434 暴露 /api/chat 等接口，并官方提供 Python（pip install ollama）和 JavaScript（npm i ollama）客户端。场景：给 RAG 管线或 agent 框架换本地后端，往往只改 base URL，不用重写检索逻辑。

对接 coding agent。 ollama launch claude 能把本地模型直接接进 Claude Code、Codex、Copilot CLI、OpenCode 等。场景：不想把代码上下文发到云端时，用本地模型跑 agent，数据全程不出机。

Modelfile 自定义。 用 Modelfile 格式改提示词、参数、打包你自己的模型变体。场景：固定一套系统提示和采样参数，做成可复用的本地“专属模型”。

跨平台与 Docker。 提供 macOS/Linux/Windows 安装包、官方 Docker 镜像（ollama/ollama）。场景：服务器上 docker run -d -p 11434:11434 ollama/ollama 起一个团队共享的本地推理服务。

使用上手

1. 安装：macOS/Linux 跑 curl -fsSL https://ollama.com/install.sh | sh；Windows 用 irm https://ollama.com/install.ps1 | iex 或安装包。
2. 跑模型：终端输入 ollama run gemma4，首次自动拉取并进入聊天。
3. 接 agent：运行 ollama launch claude（或 codex/openclaw 等）把本地模型喂给 coding agent。
4. 程序化调用：POST 到 http://localhost:11434/api/chat，或用官方 Python/JS 客户端。
5. 容器化：需要共享服务时 docker run -d -p 11434:11434 ollama/ollama。

优点与不足

• 优点：一键本地跑模型、离线可用；MIT 可商用；生态集成极广（Open WebUI、Continue、LangChain 等）。
• 不足：速度与可跑模型大小受本机 RAM/VRAM 限制；README 不提供各模型最低配置，需自己试；后端仅 llama.cpp。

适合谁

想要本地、离线、免 API key 跑大模型的研究者；给应用挂本地推理后端的开发者；注重数据不出机的隐私场景。

下载与访问

• 官网：https://ollama.com
• GitHub：https://github.com/ollama/ollama
• 安装文档：https://github.com/ollama/ollama#readme

许可证与部署

本文属于「项目」分类的 AI 资源专栏，更多评测见分类页。