3分钟快速上手如何部署新一代AI模型网关与资产管理系统【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-apiNew API是一款基于One API二次开发的新一代大模型网关与AI资产管理系统为企业提供统一的大模型接入与管理解决方案。这款API网关系统支持将各种LLM模型转换为OpenAI、Claude、Gemini兼容格式是个人和企业模型管理的集中式网关平台。 为什么选择New API在AI应用快速发展的今天管理多个大模型API变得日益复杂。New API为你解决了以下核心痛点 核心价值亮点功能模块解决的问题带来的价值统一API网关不同厂商API格式不统一标准化接口降低开发成本多模型管理多个模型账号难以管理集中管理提升运维效率智能路由单一模型故障影响服务自动故障转移保障服务稳定成本控制API调用费用难以监控精细化计费优化成本结构权限管理团队成员权限混乱分级授权保障数据安全 技术合作伙伴生态New API与众多知名技术伙伴深度合作确保系统的稳定性和扩展性。从云计算服务到学术研究从AI算力到UI设计我们构建了完整的生态系统。 快速部署指南 Docker Compose部署推荐这是最简单的部署方式适合大多数用户# 克隆项目仓库 git clone https://gitcode.com/gh_mirrors/ne/new-api.git cd new-api # 启动服务 docker-compose up -d 小贴士默认使用SQLite数据库数据将保存在./data目录中。如果需要使用MySQL或PostgreSQL只需修改docker-compose.yml文件中的数据库配置。 环境变量配置技巧核心配置变量说明变量名作用推荐值SESSION_SECRET会话加密密钥多机部署时必须一致SQL_DSN数据库连接字符串MySQL/PostgreSQL连接信息REDIS_CONN_STRINGRedis连接字符串提升性能支持缓存STREAMING_TIMEOUT流式响应超时时间300秒⚠️ 重要提醒多机部署时所有节点必须使用相同的SESSION_SECRET和数据库否则会导致认证失败。️ 核心功能模块解析 智能路由与负载均衡New API的智能路由系统支持多种策略加权随机路由- 根据渠道权重分配请求自动故障转移- 失败时自动重试其他渠道用户级限流- 防止单个用户过度使用资源模型级限流- 保护特定模型不被过度调用智能路由配置位于设置→运营设置→通用设置你可以根据实际需求调整重试次数和路由策略。 精细化计费系统New API提供了完整的计费解决方案内部充值系统支持EPay、Stripe等多种支付方式按次计费精确到每次API调用的成本核算用量统计实时监控各模型使用情况缓存计费支持OpenAI、Azure、DeepSeek等模型的缓存费用统计计费策略完全可配置适合企业内部管理和对外服务场景。 多维度权限管理权限系统基于RBAC模型设计权限级别功能范围适用场景超级管理员全部功能系统运维渠道管理员渠道管理渠道维护普通用户个人使用终端用户只读用户查看权限监控审计权限管理源码位于service/authz/目录支持自定义角色和权限分配。 多格式API兼容性支持的API格式New API最强大的特性之一是格式转换能力源格式目标格式转换状态OpenAI兼容格式Claude Messages✅ 完全支持OpenAI兼容格式Google Gemini✅ 完全支持Google GeminiOpenAI兼容格式⚠️ 文本支持函数调用开发中Claude MessagesOpenAI兼容格式✅ 完全支持推理能力支持针对不同模型的推理需求New API提供了精细化的配置OpenAI系列模型o3-mini-high- 高推理强度o3-mini-medium- 中推理强度o3-mini-low- 低推理强度Claude思维模型claude-3-7-sonnet-20250219-thinking- 启用思维模式Google Gemini系列gemini-2.5-flash-thinking- 启用思维模式gemini-2.5-flash-nothinking- 禁用思维模式️ 项目架构解析核心模块说明New API采用模块化设计主要模块包括controller/- 请求处理控制器处理各种API请求model/- 数据模型定义数据库操作封装relay/- 中继模块与第三方模型API交互middleware/- 中间件层提供认证、限流等功能service/- 业务逻辑服务层扩展性设计项目支持多种扩展方式自定义渠道通过配置文件添加新的模型渠道插件系统支持自定义中间件和处理器Webhook集成事件驱动架构支持自定义回调多语言支持内置简体中文、繁体中文、英文、法文、日文 使用场景分析 企业级应用场景技术团队管理统一管理多个大模型API密钥控制团队成员的API使用权限实时监控API使用情况和成本自动故障转移保障服务连续性产品开发集成标准化接口降低集成复杂度支持多种模型格式转换提供统一的错误处理和日志系统支持自定义路由策略 个人开发者场景个人项目开发免费开源降低使用门槛简单部署快速上手支持多种模型切换提供完善的监控和统计功能学习与研究了解大模型网关架构学习API管理和路由策略实践微服务架构设计研究多模型集成方案 高级配置技巧性能优化建议Redis缓存配置启用Redis可以显著提升系统性能连接池优化调整HTTP客户端连接池大小流式响应优化合理设置流式响应超时时间数据库索引优化为高频查询字段添加索引安全加固措施会话管理定期轮换SESSION_SECRET访问控制配置IP白名单和访问频率限制数据加密敏感数据加密存储审计日志启用完整的操作日志记录 常见问题解决部署问题排查问题1容器启动失败检查端口3000是否被占用验证数据库连接配置查看Docker日志docker logs new-api问题2API调用失败检查上游API密钥是否正确验证网络连接是否正常查看系统日志定位具体错误问题3性能问题检查Redis连接状态监控系统资源使用情况优化数据库查询语句配置问题解决多机部署同步确保所有节点使用相同的SESSION_SECRET和数据库连接。缓存不一致配置相同的CRYPTO_SECRET确保Redis缓存一致性。权限问题检查用户角色和权限分配是否正确。 监控与维护系统监控指标New API提供了丰富的监控指标API调用统计成功/失败次数、响应时间渠道状态监控各渠道可用性和性能用户行为分析用户使用模式和趋势成本统计分析各模型使用成本和效率日常维护建议定期备份数据库和配置文件监控系统日志和错误报告及时更新到最新版本定期检查安全配置 最佳实践指南生产环境部署使用Docker Compose便于管理和扩展配置外部数据库使用MySQL或PostgreSQL启用Redis缓存提升系统性能设置监控告警及时发现和解决问题定期备份数据防止数据丢失开发环境配置使用SQLite简化开发环境配置启用调试模式方便问题排查配置本地测试渠道使用模拟数据进行测试集成CI/CD自动化测试和部署 未来发展方向New API将持续演进未来重点发展方向包括更多模型支持扩展支持的模型种类和数量性能优化进一步提升系统吞吐量和响应速度安全性增强加强安全防护和数据保护用户体验改进优化管理界面和操作流程生态系统建设完善插件系统和第三方集成 结语New API作为新一代大模型网关与资产管理系统为企业和开发者提供了强大而灵活的AI模型管理解决方案。无论是个人开发者的小型项目还是企业级的复杂应用New API都能提供可靠的技术支持。通过本文的介绍你应该已经掌握了New API的核心功能和部署方法。现在就开始你的AI模型管理之旅吧访问http://localhost:3000即可体验New API的强大功能。记住成功的关键在于合理的配置和持续的优化。根据你的实际需求调整系统参数让New API为你的AI应用提供最稳定的支持。本文基于New API最新版本编写具体功能可能随版本更新而变化请参考官方文档获取最新信息。【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-api创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 3分钟快速上手：如何部署新一代AI模型网关与资产管理系统
3分钟快速上手如何部署新一代AI模型网关与资产管理系统【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-apiNew API是一款基于One API二次开发的新一代大模型网关与AI资产管理系统为企业提供统一的大模型接入与管理解决方案。这款API网关系统支持将各种LLM模型转换为OpenAI、Claude、Gemini兼容格式是个人和企业模型管理的集中式网关平台。 为什么选择New API在AI应用快速发展的今天管理多个大模型API变得日益复杂。New API为你解决了以下核心痛点 核心价值亮点功能模块解决的问题带来的价值统一API网关不同厂商API格式不统一标准化接口降低开发成本多模型管理多个模型账号难以管理集中管理提升运维效率智能路由单一模型故障影响服务自动故障转移保障服务稳定成本控制API调用费用难以监控精细化计费优化成本结构权限管理团队成员权限混乱分级授权保障数据安全 技术合作伙伴生态New API与众多知名技术伙伴深度合作确保系统的稳定性和扩展性。从云计算服务到学术研究从AI算力到UI设计我们构建了完整的生态系统。 快速部署指南 Docker Compose部署推荐这是最简单的部署方式适合大多数用户# 克隆项目仓库 git clone https://gitcode.com/gh_mirrors/ne/new-api.git cd new-api # 启动服务 docker-compose up -d 小贴士默认使用SQLite数据库数据将保存在./data目录中。如果需要使用MySQL或PostgreSQL只需修改docker-compose.yml文件中的数据库配置。 环境变量配置技巧核心配置变量说明变量名作用推荐值SESSION_SECRET会话加密密钥多机部署时必须一致SQL_DSN数据库连接字符串MySQL/PostgreSQL连接信息REDIS_CONN_STRINGRedis连接字符串提升性能支持缓存STREAMING_TIMEOUT流式响应超时时间300秒⚠️ 重要提醒多机部署时所有节点必须使用相同的SESSION_SECRET和数据库否则会导致认证失败。️ 核心功能模块解析 智能路由与负载均衡New API的智能路由系统支持多种策略加权随机路由- 根据渠道权重分配请求自动故障转移- 失败时自动重试其他渠道用户级限流- 防止单个用户过度使用资源模型级限流- 保护特定模型不被过度调用智能路由配置位于设置→运营设置→通用设置你可以根据实际需求调整重试次数和路由策略。 精细化计费系统New API提供了完整的计费解决方案内部充值系统支持EPay、Stripe等多种支付方式按次计费精确到每次API调用的成本核算用量统计实时监控各模型使用情况缓存计费支持OpenAI、Azure、DeepSeek等模型的缓存费用统计计费策略完全可配置适合企业内部管理和对外服务场景。 多维度权限管理权限系统基于RBAC模型设计权限级别功能范围适用场景超级管理员全部功能系统运维渠道管理员渠道管理渠道维护普通用户个人使用终端用户只读用户查看权限监控审计权限管理源码位于service/authz/目录支持自定义角色和权限分配。 多格式API兼容性支持的API格式New API最强大的特性之一是格式转换能力源格式目标格式转换状态OpenAI兼容格式Claude Messages✅ 完全支持OpenAI兼容格式Google Gemini✅ 完全支持Google GeminiOpenAI兼容格式⚠️ 文本支持函数调用开发中Claude MessagesOpenAI兼容格式✅ 完全支持推理能力支持针对不同模型的推理需求New API提供了精细化的配置OpenAI系列模型o3-mini-high- 高推理强度o3-mini-medium- 中推理强度o3-mini-low- 低推理强度Claude思维模型claude-3-7-sonnet-20250219-thinking- 启用思维模式Google Gemini系列gemini-2.5-flash-thinking- 启用思维模式gemini-2.5-flash-nothinking- 禁用思维模式️ 项目架构解析核心模块说明New API采用模块化设计主要模块包括controller/- 请求处理控制器处理各种API请求model/- 数据模型定义数据库操作封装relay/- 中继模块与第三方模型API交互middleware/- 中间件层提供认证、限流等功能service/- 业务逻辑服务层扩展性设计项目支持多种扩展方式自定义渠道通过配置文件添加新的模型渠道插件系统支持自定义中间件和处理器Webhook集成事件驱动架构支持自定义回调多语言支持内置简体中文、繁体中文、英文、法文、日文 使用场景分析 企业级应用场景技术团队管理统一管理多个大模型API密钥控制团队成员的API使用权限实时监控API使用情况和成本自动故障转移保障服务连续性产品开发集成标准化接口降低集成复杂度支持多种模型格式转换提供统一的错误处理和日志系统支持自定义路由策略 个人开发者场景个人项目开发免费开源降低使用门槛简单部署快速上手支持多种模型切换提供完善的监控和统计功能学习与研究了解大模型网关架构学习API管理和路由策略实践微服务架构设计研究多模型集成方案 高级配置技巧性能优化建议Redis缓存配置启用Redis可以显著提升系统性能连接池优化调整HTTP客户端连接池大小流式响应优化合理设置流式响应超时时间数据库索引优化为高频查询字段添加索引安全加固措施会话管理定期轮换SESSION_SECRET访问控制配置IP白名单和访问频率限制数据加密敏感数据加密存储审计日志启用完整的操作日志记录 常见问题解决部署问题排查问题1容器启动失败检查端口3000是否被占用验证数据库连接配置查看Docker日志docker logs new-api问题2API调用失败检查上游API密钥是否正确验证网络连接是否正常查看系统日志定位具体错误问题3性能问题检查Redis连接状态监控系统资源使用情况优化数据库查询语句配置问题解决多机部署同步确保所有节点使用相同的SESSION_SECRET和数据库连接。缓存不一致配置相同的CRYPTO_SECRET确保Redis缓存一致性。权限问题检查用户角色和权限分配是否正确。 监控与维护系统监控指标New API提供了丰富的监控指标API调用统计成功/失败次数、响应时间渠道状态监控各渠道可用性和性能用户行为分析用户使用模式和趋势成本统计分析各模型使用成本和效率日常维护建议定期备份数据库和配置文件监控系统日志和错误报告及时更新到最新版本定期检查安全配置 最佳实践指南生产环境部署使用Docker Compose便于管理和扩展配置外部数据库使用MySQL或PostgreSQL启用Redis缓存提升系统性能设置监控告警及时发现和解决问题定期备份数据防止数据丢失开发环境配置使用SQLite简化开发环境配置启用调试模式方便问题排查配置本地测试渠道使用模拟数据进行测试集成CI/CD自动化测试和部署 未来发展方向New API将持续演进未来重点发展方向包括更多模型支持扩展支持的模型种类和数量性能优化进一步提升系统吞吐量和响应速度安全性增强加强安全防护和数据保护用户体验改进优化管理界面和操作流程生态系统建设完善插件系统和第三方集成 结语New API作为新一代大模型网关与资产管理系统为企业和开发者提供了强大而灵活的AI模型管理解决方案。无论是个人开发者的小型项目还是企业级的复杂应用New API都能提供可靠的技术支持。通过本文的介绍你应该已经掌握了New API的核心功能和部署方法。现在就开始你的AI模型管理之旅吧访问http://localhost:3000即可体验New API的强大功能。记住成功的关键在于合理的配置和持续的优化。根据你的实际需求调整系统参数让New API为你的AI应用提供最稳定的支持。本文基于New API最新版本编写具体功能可能随版本更新而变化请参考官方文档获取最新信息。【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-api创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考