AnythingLLM
简介
AnythingLLM 是一个全栈应用程序,能让您将任何文档、资源或内容转换为任何 LLM 在聊天过程中可以使用的上下文参考。
功能特色
- 多种 LLM 支持:支持 OpenAI、Anthropic、Ollama 等多种 LLM 提供商
- 文档处理:上传并处理各种格式的文档(PDF、Word、PowerPoint 等)
- 向量化存储:将文档内容向量化并存储在向量数据库中
- 智能问答:基于您的文档内容进行智能问答
- 多用户支持:支持用户管理和权限控制
- 语音功能:支持语音转文字和文字转语音
- 高度可定制:可配置的 AI 助手
使用方法
- 部署此模板,系统会提示您绑定域名
- 启动服务后,您可以在
https://<您的域名>
访问 AnythingLLM
- 首次访问时,系统会引导您完成初始设置
- 上传您的文档并开始与 AI 助手对话
配置说明
部署后,您可以通过在 Zeabur 服务设置中修改环境变量来自定义 AnythingLLM。以下是关键配置选项:
LLM 提供商配置
通过设置以下环境变量来配置您首选的 LLM 提供商:
- LLM_PROVIDER:设置为
ollama
、openai
、anthropic
等
- OLLAMA_BASE_PATH:Ollama API 基础 URL(默认:
http://127.0.0.1:11434
)
- OLLAMA_MODEL_PREF:首选 Ollama 模型(默认:
llama2
)
- OLLAMA_MODEL_TOKEN_LIMIT:Ollama 模型令牌限制(默认:
4096
)
对于 OpenAI 或 Anthropic,您需要在 Web 界面中设置额外的 API 密钥变量。
嵌入配置
- EMBEDDING_ENGINE:嵌入提供商(默认:
ollama
)
- EMBEDDING_BASE_PATH:嵌入 API 基础 URL(默认:
http://127.0.0.1:11434
)
- EMBEDDING_MODEL_PREF:首选嵌入模型(默认:
nomic-embed-text:latest
)
- EMBEDDING_MODEL_MAX_CHUNK_LENGTH:最大块长度(默认:
8192
)
向量数据库
- VECTOR_DB:向量数据库类型(默认:
lancedb
)
默认使用 LanceDB,这是一个高效的向量数据库,适合大多数使用场景。
语音功能
- WHISPER_PROVIDER:语音转文字提供商(默认:
local
)
- TTS_PROVIDER:文字转语音提供商(默认:
native
)
安全设置
- JWT_SECRET:JWT 密钥(自动生成)
- PASSWORDMINCHAR:最小密码长度(默认:
8
)
如何修改环境变量
- 转到您的 Zeabur 服务仪表板
- 导航到"变量"选项卡
- 添加或修改上述环境变量
- 重启您的服务以使更改生效
有关详细配置选项,请访问 AnythingLLM 文档。
注意事项
- 首次启动可能需要较长时间来初始化
- 建议为生产环境设置强密码
- 定期备份您的文档和配置
官方资源
- 官方网站:https://anythingllm.com
- 文档:https://docs.anythingllm.com
- GitHub:https://github.com/Mintplex-Labs/anything-llm