快速开始

欢迎使用 AnythingLLM！本指南将帮助您快速了解和开始使用 AnythingLLM。

什么是 AnythingLLM？

AnythingLLM 是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库，同时支持多用户管理并设置不同权限。

AnythingLLM 将您的文档划分为称为 workspaces (工作区) 的对象。工作区的功能类似于线程，同时增加了文档的容器化。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。

🌟 主要特性

AnythingLLM 提供了许多强大的功能：

🆕 最新功能

完全兼容 MCP - 支持模型上下文协议
无代码AI代理构建器 - 轻松创建自定义AI代理
自定义人工智能代理 - 个性化AI助手

👥 多用户支持

多用户实例支持和权限管理 - 支持封闭源和开源LLM
工作区内的智能体 - 浏览网页、运行代码等

💬 聊天功能

可嵌入聊天窗口 - 为您的网站定制的聊天组件
带有拖放功能和清晰引用的简洁聊天界面
内置节省成本和时间的机制 - 用于处理超大文档

📖 文档支持

支持多种文档类型 - PDF、TXT、DOCX等
100%云部署就绪
兼容所有主流的闭源和开源大语言模型提供商

🛠️ 开发者友好

全套的开发人员API - 用于自定义集成

核心概念

工作空间 (Workspaces)

工作空间是 AnythingLLM 的核心概念。每个工作空间都是一个独立的环境，包含：

特定的文档集合
独立的聊天历史
自定义的设置和配置
专门的向量数据库存储

文档管理

AnythingLLM 支持多种文档格式：

PDF 文件
Word 文档 (.docx)
纯文本文件 (.txt)
Markdown 文件 (.md)
网页内容
YouTube 视频字幕

LLM 提供商

AnythingLLM 支持广泛的大语言模型提供商：

商业提供商：

OpenAI - GPT-3.5, GPT-4 系列
OpenAI (通用) - 兼容 OpenAI API 的服务
Azure OpenAI - 微软云端 OpenAI 服务
Anthropic - Claude 系列模型
Google Gemini Pro - 谷歌的大语言模型
AWS Bedrock - 亚马逊云端 AI 服务
Cohere - 企业级 AI 平台
Mistral - 欧洲开源 AI 公司
Groq - 高性能 AI 推理
OpenRouter - 多模型 API 聚合服务
DeepSeek - 深度求索 AI
Perplexity - 搜索增强的 AI
Fireworks AI - 快速 AI 推理服务
Together AI - 开源模型托管
xAI - Elon Musk 的 AI 公司
Novita AI - AI 模型服务
PPIO - 分布式 AI 计算
CometAPI - AI 模型 API

本地和开源解决方案：

Ollama - 本地运行开源模型
LM Studio - 本地模型管理工具
LocalAI - 本地 AI 服务
llama.cpp 兼容模型 - 任何兼容的开源模型
Text Generation Web UI - 开源文本生成界面
KoboldCPP - 轻量级本地推理
LiteLLM - 统一 LLM API
Apipie - API 代理服务

专业服务：

NVIDIA NIM - NVIDIA AI 推理微服务
Hugging Face - 开源模型平台

嵌入模型

支持多种文本嵌入模型：

AnythingLLM原生嵌入器 (默认)
OpenAI - text-embedding-ada-002 等
Azure OpenAI - 微软云端嵌入服务
LocalAI - 本地嵌入模型
Ollama - 本地开源嵌入模型
LM Studio - 本地嵌入服务
Cohere - 企业级嵌入模型

向量数据库

支持多种向量数据库解决方案：

LanceDB (默认，无需配置)
PGVector - PostgreSQL 向量扩展
Astra DB - DataStax 云端向量数据库
Pinecone - 托管向量数据库服务
Chroma - 开源向量数据库
Weaviate - 开源向量搜索引擎
QDrant - 高性能向量数据库
Milvus - 开源向量数据库
Zilliz - Milvus 云服务

语音功能

文本转语音 (TTS)：

浏览器内置 (默认)
PiperTTSLocal - 在浏览器中运行
OpenAI TTS - 高质量语音合成
ElevenLabs - 专业语音克隆
任何与 OpenAI 兼容的 TTS 服务

语音转文本 (STT)：

浏览器内置 (默认)

转录模型：

AnythingLLM内置 (默认)
OpenAI - Whisper 模型

系统要求

最低要求

RAM: 2GB (推荐 4GB+)
存储: 10GB 可用空间
CPU: 双核处理器
操作系统: Windows 10+, macOS 10.15+, Linux (Ubuntu 18.04+)

部署选项

AnythingLLM 提供多种灵活的部署方式，适合不同的使用场景：

🖥️ 桌面应用

👉 适用于桌面（Mac、Windows和Linux）的AnythingLLM！

最简单的开始方式
无需技术配置
支持所有主流操作系统
一键安装即可使用

🐳 Docker 部署

适合开发和生产环境
容器化部署，环境隔离
支持多用户实例
易于扩展和维护

☁️ 云端部署

支持多种云平台一键部署：

主流云平台：

AWS - 亚马逊云服务
GCP - 谷歌云平台
Digital Ocean - 数字海洋云服务

托管平台：

Railway - 现代化应用部署平台
Render.com - 全栈云平台
RepoCloud - 代码仓库云部署
Elestio - 开源应用托管

🛠️ 源码部署

完全自定义的部署方式
适合高级用户和开发者
支持自定义修改和扩展
完全控制部署环境

📋 技术架构

AnythingLLM 由六个主要部分组成：

frontend - viteJS + React 前端界面
server - NodeJS express 服务器
collector - 文档处理和解析服务
docker - Docker 构建和部署配置
embed - 网页嵌入组件子模块
browser-extension - Chrome 浏览器扩展

🔗 外部应用与集成

AnythingLLM 支持与多种外部应用和工具集成：

兼容应用

Midori AI 子系统管理器 - 使用 Docker 容器技术高效部署 AI 系统的简化方式

说明

以上应用与 AnythingLLM 兼容，但并非由 Mintplex Labs 维护。列在此处并不代表官方背书。

🚀 开发环境设置

如果您想参与 AnythingLLM 的开发，可以按照以下步骤设置开发环境：

bash

# 1. 填充环境配置文件
yarn setup

# 2. 启动服务器 (在仓库根目录)
yarn dev:server

# 3. 启动前端 (在仓库根目录)
yarn dev:frontend

# 4. 启动文档收集器 (在仓库根目录)
yarn dev:collector

重要提示

在开始下一步之前，请先填写 server/.env.development 文件中的配置信息，否则代码无法正常执行。

📚 学习资源

了解文档 - 深入理解文档处理机制
了解向量缓存 - 掌握向量数据库的使用

下一步

选择适合您的安装方式：

安装指南 - 详细的安装步骤
配置指南 - 基本配置设置

或者直接跳转到：

用户指南 - 学习如何使用 AnythingLLM
常见问题 - 查看常见问题解答

💡 新手建议

如果您是第一次使用，我们强烈建议从 桌面应用 开始，这是最简单的方式来体验 AnythingLLM 的强大功能。

⚠️ 生产环境注意事项

在生产环境中使用时，请确保：

正确配置安全设置和访问控制
定期备份重要数据
监控系统性能和资源使用
及时更新到最新版本

🎬 演示视频

想要快速了解 AnythingLLM 的功能？观看官方演示视频，直观体验产品特性！

快速开始 ​

什么是 AnythingLLM？ ​

🌟 主要特性 ​

🆕 最新功能 ​

👥 多用户支持 ​

💬 聊天功能 ​

📖 文档支持 ​

🛠️ 开发者友好 ​

核心概念 ​

工作空间 (Workspaces) ​

文档管理 ​

LLM 提供商 ​

嵌入模型 ​

向量数据库 ​

语音功能 ​

系统要求 ​

最低要求 ​

推荐配置 ​

部署选项 ​

🖥️ 桌面应用 ​

🐳 Docker 部署 ​

☁️ 云端部署 ​

🛠️ 源码部署 ​

📋 技术架构 ​

🔗 外部应用与集成 ​

兼容应用 ​

🚀 开发环境设置 ​

📚 学习资源 ​

下一步 ​