七千二百袋水泥
七千二百袋水泥
Published on 2025-09-21 / 2 Visits

手把手教你使用Ollama与AnythingLLM在NAS上搭建专属AI知识库系统完整教程

AnythingLLM是一款功能全面的应用程序,能够将各类文档、网络资源(包括网址、音频及视频)或内容片段转换为可供大型语言模型(LLM)在对话过程中引用的上下文信息。该工具允许用户自由选择所使用的LLM或向量数据库类型,同时具备多用户管理功能并支持灵活的权限配置。

核心功能亮点

  • 🆕 全面兼容MCP(模型控制协议)
  • 🆕 无需编写代码即可构建AI智能体
  • 🖼️ 支持多用户实例及权限管理(兼容闭源与开源LLM!)
  • 自定义人工智能代理程序
  • 👤 多用户实例与权限管理(仅限Docker版本)
  • 🦾 工作区内置智能体(支持网页浏览、代码执行等操作)
  • 💬 可为网站定制嵌入式聊天窗口
  • 📖 兼容多种文档格式(PDF、TXT、DOCX等)
  • 提供直观的拖放操作界面与清晰的引用显示
  • 完全支持云端部署
  • 兼容所有主流闭源与开源大语言模型服务商
  • 内置高效处理超大文档的机制,显著节省成本与时间
  • 提供完整的开发者API,便于自定义集成
  • 更多实用功能等待您探索……

安装指南

通过Docker Compose部署

services:  
  anythingllm:  
    image: mintplexlabs/anythingllm:latest  
    container_name: anythingllm  
    ports:  
      - 3001:3001  
    volumes:  
      - /vol1/1000/docker/anythingllm/storage:/app/server/storage  
    environment:  
      - STORAGE_DIR=/app/server/storage  
    restart: unless-stopped

关键参数说明(建议查阅官方文档获取更多信息)

  • /app/server/.env(可选):用于持久化配置文件
  • /app/server/storage:数据存储目录
  • STORAGE_DIR(环境变量):自定义存储路径设置

使用入门

在浏览器中输入 http://NAS的IP:3001 即可访问操作界面。

Image

点击“开始”按钮进入初始化流程。

Image

系统支持多种平台接入,不过国内平台选项相对有限。

Image

此处以先前部署的Ollama环境为例进行连接测试。

Image

根据实际需求完成各项参数配置。

Image

点击“下一步”继续设置流程。

Image

选择“跳过调查”快速进入主界面。

Image

输入任意名称完成工作区创建。

Image

等待系统加载完毕后,即可成功进入主操作面板。

Image

新手用户可参照内置的入门指南逐步完成系统配置。

Image

用户可以创建新工作区或选择现有工作区进入对话界面。

Image

首先测试已对接的语言模型是否正常工作。

Image

上传文档并进行内容查询功能测试。

Image

通过对话框右侧的快捷菜单可随时切换不同的语言模型。

Image

工作区内的上传按钮支持创建和管理知识库文档。

Image

可查看已上传至系统的所有文档列表。

Image

点击上传文档按钮添加新资料。

Image

选择需要添加的文档并将其移入目标工作区。

Image

确认选择后点击保存按钮。

Image

系统将根据文件大小进行相应时长的处理操作。

Image

提问时系统能够有效关联知识库中的相关内容。

Image

但有时回答的精准度仍有提升空间。

Image

展开回复下方的文档详情可查看内容匹配程度。

Image

点击设置按钮进入工作区配置界面。

Image

可对工作区的各项参数进行调整和优化。

Image

若知识库匹配效果不理想,可调整聊天和向量数据库的相关设置。

Image

根据实际需求配置应用程序的全局参数。

Image


总结评价

与早期版本相比,当前版本的AnythingLLM实现了显著的功能升级,包括中文界面支持与视觉效果的全面提升。主要不足之处在于知识库的检索精度有时不够理想,可能需要通过调整参数和数据库匹配方式来优化。与其他同类知识库系统相比,AnythingLLM的优势在于操作简单直观,无需复杂配置即可快速上手,特别适合初学者使用,同时提供了丰富的个性化设置选项。

综合推荐指数:⭐⭐⭐⭐(适合新手用户使用默认配置)
用户体验评分:⭐⭐⭐(界面美观,操作简便)
部署难度指数:⭐⭐(流程简单直接)

需要注意的是,系统运行时会占用较多的内存资源。

Image