icon

AnythingLLM

一个全栈应用程序,让您能够将任何文档、资源或内容转换为任何 LLM 在聊天过程中可以作为参考的上下文。

template cover
部署次数23
发布者leechenghsiu
创建于2025-06-30
模版内的服务
service icon
标签
AILLMRAGDocument ProcessingChatbot

AnythingLLM

简介

AnythingLLM 是一个全栈应用程序,能让您将任何文档、资源或内容转换为任何 LLM 在聊天过程中可以使用的上下文参考。

功能特色

  • 多种 LLM 支持:支持 OpenAI、Anthropic、Ollama 等多种 LLM 提供商
  • 文档处理:上传并处理各种格式的文档(PDF、Word、PowerPoint 等)
  • 向量化存储:将文档内容向量化并存储在向量数据库中
  • 智能问答:基于您的文档内容进行智能问答
  • 多用户支持:支持用户管理和权限控制
  • 语音功能:支持语音转文字和文字转语音
  • 高度可定制:可配置的 AI 助手

使用方法

  1. 部署此模板,系统会提示您绑定域名
  2. 启动服务后,您可以在 https://<您的域名> 访问 AnythingLLM
  3. 首次访问时,系统会引导您完成初始设置
  4. 上传您的文档并开始与 AI 助手对话

配置说明

部署后,您可以通过在 Zeabur 服务设置中修改环境变量来自定义 AnythingLLM。以下是关键配置选项:

LLM 提供商配置

通过设置以下环境变量来配置您首选的 LLM 提供商:

  • LLM_PROVIDER:设置为 ollamaopenaianthropic
  • OLLAMA_BASE_PATH:Ollama API 基础 URL(默认:http://127.0.0.1:11434
  • OLLAMA_MODEL_PREF:首选 Ollama 模型(默认:llama2
  • OLLAMA_MODEL_TOKEN_LIMIT:Ollama 模型令牌限制(默认:4096

对于 OpenAI 或 Anthropic,您需要在 Web 界面中设置额外的 API 密钥变量。

嵌入配置

  • EMBEDDING_ENGINE:嵌入提供商(默认:ollama
  • EMBEDDING_BASE_PATH:嵌入 API 基础 URL(默认:http://127.0.0.1:11434
  • EMBEDDING_MODEL_PREF:首选嵌入模型(默认:nomic-embed-text:latest
  • EMBEDDING_MODEL_MAX_CHUNK_LENGTH:最大块长度(默认:8192

向量数据库

  • VECTOR_DB:向量数据库类型(默认:lancedb

默认使用 LanceDB,这是一个高效的向量数据库,适合大多数使用场景。

语音功能

  • WHISPER_PROVIDER:语音转文字提供商(默认:local
  • TTS_PROVIDER:文字转语音提供商(默认:native

安全设置

  • JWT_SECRET:JWT 密钥(自动生成)
  • PASSWORDMINCHAR:最小密码长度(默认:8

如何修改环境变量

  1. 转到您的 Zeabur 服务仪表板
  2. 导航到"变量"选项卡
  3. 添加或修改上述环境变量
  4. 重启您的服务以使更改生效

有关详细配置选项,请访问 AnythingLLM 文档

注意事项

  • 首次启动可能需要较长时间来初始化
  • 建议为生产环境设置强密码
  • 定期备份您的文档和配置

官方资源

  • 官方网站:https://anythingllm.com
  • 文档:https://docs.anythingllm.com
  • GitHub:https://github.com/Mintplex-Labs/anything-llm