暂无菜单项

new api:开源的大模型网关与 AI 资产管理系统,搭建统一调度的 API 中转站

发布于 更新于
59

阿喵前言

随着各类 AI 大模型的爆发,开发者和团队手里往往会有多个厂商的 API Key。为了解决接口不统一、额度难以统计、调用节点不稳定等问题,(当然还有个大原因:咱们使用国外的AI不方便)搭建一个统一调度的“中转站”成了当下的刚需。各种AI中转站炸开了花,不管是小白还是大V,连特朗普家族都开始搞 Token 中转站生意

今天介绍的这款开源项目,正是目前圈内搭建 AI 中转站最主流、使用最广泛的底层系统之一。

项目介绍

New API 是一款开源的大模型网关与 AI 资产管理系统(基于原 One API 深度二次开发)。

它的核心定位就是一个强大且稳定的 API 中转站。它的工作原理非常直接:你在后台录入各个大厂商(如 OpenAI、Claude、Gemini 等)的原始 API Key,然后这个中转站会对内/对外提供一个统一的、完全兼容 OpenAI 接口标准的 API。无论是用于团队内部的成本管控,还是作为对外的接口中转站,它都能提供完善的路由分发和计费管理方案。

截图演示

功能特色

  • 标准中转能力:将市面上绝大多数模型(文本、图像、语音)的复杂接口协议,统一转化为标准的 OpenAI 格式输出,前端对接零成本。
  • 全模型兼容:原生支持 OpenAI、Claude、Gemini、Midjourney 以及最新的深度思考模型(如 o3-mini、Claude 3.7 thinking 等)。
  • 中转站高可用调度:作为核心中转站,支持配置多个上游渠道。具备渠道加权随机轮询、失败自动重试机制,防止单一上游节点宕机导致服务中断。
  • 精准额度管控:支持给不同用户生成独立的 Token,精确统计调用消耗,支持按次、按量计费。方便中转站的日常运营或企业内部的算力成本核算。

使用教程

搭建该中转站最推荐的方式是使用 Docker 容器化部署,过程非常简洁:

  1. 环境准备:确保你的服务器已经安装好 Docker 环境。
  2. 拉取与启动:通过一条 Docker 命令即可启动默认的 SQLite 版本中转站(适用于个人或小团队):Bashdocker run --name new-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v ./data:/data calciumion/new-api:latest (注:大型生产环境建议配置 MySQL 数据库与 Redis 缓存以提升并发性能)
  3. 初始化配置:在浏览器访问 http://服务器IP:3000,登录控制台。
  4. 接入与分发:在“渠道”中添加你的各大平台上游 API Key;然后在“令牌”中生成新的 Key,将这个新 Key 和中转站地址填入你的各类 AI 客户端(如 Cherry Studio、Chatbox 等)即可使用。

项目链接

常见问题(FAQ)

New API 是什么?
New API 是一款开源的大模型网关与 AI 资产管理系统,基于原 One API 深度二次开发,主要用于搭建统一调度的 API 中转站,支持多种 AI 模型的接口统一管理和分发。
New API 支持哪些模型?
New API 原生支持 OpenAI、Claude、Gemini、Midjourney 以及最新的深度思考模型(如 o3-mini、Claude 3.7 thinking 等),覆盖文本、图像、语音等多种类型。
如何快速部署 New API?
推荐使用 Docker 部署,运行命令:docker run --name new-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v ./data:/data calciumion/new-api:latest,然后访问 http://服务器IP:3000 进行配置。
3
3 讨论
热门最新
总结

搭建中转站一直觉得很难,没想到 Docker 一条命令就搞定了,感谢分享!

用了 New API 之后,团队调用 AI 接口方便多了,还能统计每个用户的消耗,强烈推荐。

这个项目太实用了,刚好需要统一管理多个 API Key,部署也很简单,赞一个!

0 / 600
📅 每日打卡
点一下,今日份快乐到账~
未名
未名
未名
未名
未名
未名
邀请访问 +5 邀请注册 +50
我的打卡记录