
AnythingLLM
导入文档、连接本地或云端模型,开展资料问答与智能体任务。
AnythingLLM 将资料导入、模型连接和智能体放在一个应用中,提供桌面与 Docker 部署方式,适合围绕个人或团队文档开展问答。
AnythingLLM 能做什么
可连接本地或云端模型,支持多种文档与向量数据库。使用前应先分清桌面个人使用和 Docker 多人部署。
资料问答的重点是追溯命中文档;工具代理则可能执行额外操作,两种任务应分别配置和检查。
导入多种文档
支持 PDF、TXT、DOCX 等资料,通过上传和文档处理进入检索流程;聊天界面可显示来源引用。
连接模型及向量库
可选择本地或云端语言模型,并配置嵌入模型及向量数据库,按资料规模调整组合。
让智能体使用工具
内置代理能力可组合工具处理任务。编辑建议:先限定工具和输出,再交付包含外部操作的任务。
为团队提供受控入口
Docker 版本支持多用户权限以及可嵌入网站的聊天组件;桌面版本不能直接套用这些部署功能。
- 核心用途
- 文档问答、智能体与模型路由
- 可完成的工作
- 整理项目资料,创建有引用的问答工作区
- 如何开始
- 下载桌面端或部署Docker,再连接模型
- 使用条件
- 多人权限与嵌入聊天组件仅Docker版本支持
如何使用 AnythingLLM
- 选择桌面或Docker
个人本地使用可从桌面应用开始;需要多用户或嵌入组件时选择Docker部署。
- 配置模型和资料组件
设置语言模型、嵌入与向量数据库;本地及云端服务分别确认连接条件。
- 创建工作区并导入资料
导入少量PDF或其他支持文件,确认处理完成后再开始问答。
- 检查引用再扩大范围
用已知问题检查引用;需要代理或模型路由时再逐项启用并观察结果。
做项目文档问答
适合:需要反复查项目资料的人
- 准备输入
- 项目说明、交付规范与常见问题。
- 操作方法
- 编辑建议:在工作区导入资料,先问能够定位到原文的问题,再整理常用问法。
- 预期交付物
- 带来源线索的项目问答。
- 人工检查
- 核对引用段落、资料版本及遗漏文件。
给网站准备限定知识入口
适合:有网站部署能力的维护者
- 准备输入
- 允许公开的文档、Docker实例和访问范围。
- 操作方法
- 编辑建议:在Docker版本准备工作区,配置嵌入聊天组件后用公开问题验证回答范围。
- 预期交付物
- 面向指定资料的嵌入问答入口。
- 人工检查
- 避免上传内部文件;检查未授权用户的可见内容。
探索工具代理任务
适合:能够判断工具权限的用户
- 准备输入
- 任务目标、允许工具、预期文件或答案。
- 操作方法
- 编辑建议:先用小任务检查工具调用,再把结果与原始输入逐项比对。
- 预期交付物
- 受限定的任务输出。
- 人工检查
- 确认每项外部操作及文件改动符合原定范围。
界面与参考图片

开始前需要了解
多人功能有版本边界
官方说明明确多用户权限及自定义嵌入聊天组件仅Docker版提供,不能将它们当作桌面版默认功能。
调用成本随模型变化
支持本地与云模型不意味着所有调用免费;外部提供方的账户、额度和许可需要另外确认。
应用许可与资料权利分开
仓库采用MIT许可,但上传文档、连接的模型和工具仍各有使用条件,代码许可不会自动覆盖这些内容。
多用户权限与嵌入聊天组件仅 Docker 版本支持;模型调用条件按所连接服务另计。
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。
常见问题
桌面版支持团队成员权限吗?
官方说明将多用户和权限标为Docker版功能。团队部署应选择对应版本并验证权限。
能显示回答参考的文档吗?
聊天界面支持来源引用。使用时仍应打开相关段落检查是否真正支持答案。
必须用云模型吗?
不必。可以连接本地或云模型,同时按需要选择嵌入与向量数据库。
网站聊天组件如何使用?
它属于Docker版能力,需要部署实例并限定可公开的工作区资料后再嵌入网站。