七千二百袋水泥
七千二百袋水泥
Published on 2025-06-08 / 0 Visits

全面指南:在NAS设备上部署OneAPI实现OpenAI、Claude、Gemini等主流大语言模型API的统一管理、分发与高效调用

OneAPI 是一款先进的LLM API接口管理与分发系统,能够通过标准化OpenAI API格式访问多种大语言模型,支持OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360智脑、腾讯混元等主流模型,提供统一的API适配方案,适用于密钥管理与二次分发场景。

Image

在线演示站点可通过以下链接访问: https://openai.justsong.cn/

系统兼容的模型范围广泛,涵盖以下类别:

  • • OpenAI ChatGPT系列模型(兼容Azure OpenAI API)

  • • Anthropic Claude系列模型(支持AWS Claude)

  • • Google PaLM2/Gemini系列模型

  • • Mistral系列模型

  • • 字节跳动豆包大模型

  • • 百度文心一言系列模型

  • • 阿里通义千问系列模型

  • • 讯飞星火认知大模型

  • • 智谱ChatGLM系列模型

  • • 360智脑

  • • 腾讯混元大模型

  • • Moonshot AI

  • • 百川大模型

  • • MINIMAX

  • • Groq

  • • Ollama

  • • 零一万物

  • • 阶跃星辰

  • • Coze

  • • Cohere

  • • DeepSeek

  • • Cloudflare Workers AI

  • • DeepL

  • • together.ai

  • • novita.ai

  • • 硅基流动SiliconCloud

  • • xAI

Docker Compose安装方法

通过Docker Compose部署OneAPI时,默认配置采用SQLite数据库,以下为基本设置示例:

services:  
 one-api:  
  image: justsong/one-api:latest  
  container_name: one-api  
  volumes:  
   - /vol1/1000/docker/one-api:/data justsong/one-api  
  environment:  
   - TZ=Asia/Shanghai  
  ports:  
   - "3000:3000"

重要提示:SQLite适用于低并发场景,若预期流量较高,必须切换至MySQL数据库。添加SQL_DSN环境变量实现数据库配置:

SQL_DSN=root:MYSQL_ROOT_PASSWORD@tcp(192.168.31.40:3306)/oneapi

预先创建MySQL数据库执行以下命令:

mysql -u root -p  
create database oneapi;

Image

OneAPI配置与操作指南

在浏览器中访问 http://NAS的IP:3000 进入管理界面:

Image

点击右上角"登录"按钮:

Image

初始账户用户名为root,对应密码为123456:

Image

登录后立即修改默认密码:

Image

在设置页面填写服务器地址信息:

Image

进入渠道管理界面,点击"添加新的渠道":

Image

操作提示:以添加Ollama本地模型为例(其他模型配置逻辑类似),参考Ollama部署指南进行设置。模型未自动识别时可手动输入名称,密钥字段可任意填写,代理地址指向Ollama服务终端点:

Image

添加完成后点击测试验证响应(本地Ollama可能因延迟无反馈,属正常现象):

Image

在令牌管理页面点击"添加新的令牌":

Image

填写令牌名称并选择适用的模型范围:

Image

生成后复制令牌密钥备用:

Image

关键说明:外部访问需确保公网可达性(部分场景要求HTTPS协议),局域网API地址无法直接调用(内网应用可通过本地网络访问):

Image

示例使用Lobe Chat进行集成测试(连通性报错可能因模型缺失导致):

Image

对话功能验证正常:

Image

日志页面记录所有API调用详情:

Image

使用总结与优缺点分析

该工具提供聚合式管理能力,通过OneAPI集中配置多模型接口后,可实现统一调用,显著提升兼容性与操作效率。当前版本存在模型自动识别不足、密钥编辑后丢失等问题,需手动维护。

综合推荐指数:⭐⭐⭐(表现良好) 用户体验评价:⭐⭐⭐(操作顺畅) 部署复杂度:⭐⭐(流程简易)