AnythingLLM：把文档变成可对话的知识库

一个装上就能用的本地知识库应用，把文档丢进去，用任意模型提问，答案带出处。

大部分「和文档聊天」的工具都要你先搭一套向量库、再配嵌入模型、再接前端。AnythingLLM 的思路是把这三层打包进一个安装包：自带切分器、默认本地嵌入模型、内置 LanceDB 向量库，下载完选个模型就能跑。它由 Mintplex Labs 开发，提供桌面版与 Docker 版两种形态：桌面版单人用，Docker 版支持多账号、工作区权限和可嵌入网站的聊天窗口。对不想碰命令行的人来说，这是目前上手成本最低的一条路。

工作区就是资料边界

每个工作区是一组独立文档加一段独立对话历史。你把某个项目的 PDF、需求文档、会议记录丢进「项目 A」，另一个工作区放客户资料，两者互不干扰，回答不会串。这个设计比「一个全局知识库」实用：实际工作中资料本来就是按项目分的，强行混在一起只会让检索结果变脏。工作区还能单独设置提示词与模型，不同场景用不同配置。

自带向量库与嵌入模型，不配也能跑

桌面版内置了嵌入模型和 LanceDB，首次启动不需要填任何 API Key，也不需要另起一个向量数据库。如果追求检索质量，可以换成云端嵌入（Cohere、OpenAI）或本地 Ollama 的嵌入模型；但「不配也能用」这个默认值，让第一次体验的成功率高很多。Docker 版还支持挂外部向量库，Qdrant、PGVector、Weaviate 等都在列表里，数据量大了有升级路径。

三种模型角色可以分开接

它把模型拆成三个角色：对话模型负责推理，嵌入模型负责向量化，语音模型负责朗读。这意味着你能用云端强模型对话、本地小模型做嵌入，敏感文档不传出去，回答质量又不降。实际配置时还能开「动态模型路由」，按规则把不同类型的提问分给不同供应商。对成本和隐私都要控的团队，这个粒度是刚需。

智能体不只是聊天，能查网页能跑 SQL

内置的 Agent 可以调用浏览器抓网页、查数据库、生成图表，也可以用 MCP 工具。用法上比较实在：丢一个 GitHub 仓库地址进去，让它回答「这个项目的鉴权是怎么做的」；或者接一个只读数据库，让它把一周的数据拉成图表。技能面板可以逐个开关，不必一次性全开——工具开太多反而会拖慢响应。

部署：桌面版十分钟，Docker 版支撑多用户

桌面版直接去官网下载安装包，Windows、macOS（含 Apple Silicon）、Linux 都有，官方推荐 16GB 内存，本地跑模型时显存 8GB 以上体验更好。Docker 版一行命令拉起，多用户、权限、嵌入式聊天窗口只在服务端版本提供。两者共用同一套数据目录结构，以后想从桌面迁到服务器，把 storage 目录搬过去就行。

使用上手：五步走完

1. 安装。桌面版从 https://anythingllm.com 下载对应平台安装包；服务器版用 docker run -d -p 3001:3001 --cap-add SYS_ADMIN -v $HOME/anythingllm:/app/server/storage -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm，然后访问 http://localhost:3001。
2. 选模型。首次启动时选内置模型、Ollama、LM Studio 或任意 OpenAI 兼容端点，填对应地址与 Key。
3. 建工作区。左侧新建 Workspace，命名按项目分，不要建一个「全部资料」的大杂烩。
4. 传文档。支持 PDF、DOCX、TXT、Markdown、网页链接、YouTube 字幕、GitHub 仓库。传完等嵌入完成，文档多时这一步要几分钟。
5. 提问并核出处。回答下方会列出引用的文档片段，看到可疑结论先去点开原文，不要直接相信摘要。

优点与不足

优点：开箱即用程度高，嵌入模型与向量库都内置，第一次跑通不需要额外服务；MIT 许可，商用与二次开发都自由；同一个代码库覆盖桌面单人与 Docker 多人，迁移成本低；支持 30 多个模型供应商，本地云端可混用。

不足：设置项多，第一次进设置页容易迷路；桌面版只能单人使用，团队必须上 Docker；文档量大时对内存要求高，几千份文档在桌面版上会明显变慢；升级偶尔会弄坏工作区，官方也建议大版本升级前先备份数据目录。

适合谁

• 手边有一堆 PDF、想直接提问而不是逐页读的人：装完十分钟能用。
• 需要内部私有用知识库的小团队：Docker 版带账号与权限，不必自己拼 RAG 管道。
• 要把客服问答嵌到官网的人：服务端版自带可嵌入的聊天挂件。

下载与访问

• 官网下载：https://anythingllm.com
• 文档：https://docs.anythingllm.com
• GitHub：https://github.com/Mintplex-Labs/anything-llm

许可证与部署

本文属于「项目」分类的 AI 资源专栏，更多评测见分类页。