这是一个面向开发者与小团队的 AI 模型 API 聚合与管理中转平台,核心是把不同大模型的调用、密钥、价格、用量、充值和权限管理统一到一个站点。
立项原因:
- 不同模型厂商接口、模型名称、计费方式不统一,接入成本高。
- 用户需要自行管理 API Key、余额、调用日志和模型价格,操作分散。
- 平台运营方需要按用户、分组、模型和折扣进行精细化管理。
- 上游模型平台的成本价与本站售卖价不同,需要独立完成本地计费、折扣换算和余额控制。
要解决的问题:
- 为用户提供统一的模型广场、API 文档、令牌管理和调用入口。
- 自动关联用户、上游客户编号和 API Key,降低人工创建 Key 的成本。
- 按模型的拿货折扣、售卖折扣和实际调用日志计算用户消费。
- 在用户余额不足时冻结上游 Key,充值或管理员调账后自动恢复。
- 通过分组、邀请码、管理员接管机制,支持后续多管理员运营。
用户侧:
- 注册、登录、邮箱验证码、找回密码、注销账号。
- 钱包充值、余额展示、用量概览、近 14 天调用统计、用户周报。
- 创建、查看、复制、重命名、删除 API Key。
- 使用密钥抽屉:提供 Codex、Claude Code、OpenCode、Claude Desktop、DeepSeek Harness 等接入配置与复制内容。
- 模型广场:按厂商筛选、搜索、排序、分页、模型价格展示、模型详情抽屉。
- API 文档:Markdown 文档渲染、目录导航、代码复制、图片放大。
- 使用日志:按用户保存最近调用记录,展示时间、模型、状态、输入、输出、缓存读取和总 Token。
管理端:
- 模型后台管理:模型、厂商、输入输出价格、计费单位、排序、详情说明。
- 公告、开屏公告、下载公告、文档编辑。
- 用户管理:用户资料、余额、累计充值、备注、手工 Key、Key 查看与管理。
- Key 池:手工 Key 的新增、上架、下架、分配、删除和来源展示。
- 上游折扣管理:配置模型获取折扣与售卖折扣。
- 活跃用户列表与调用同步。
- 分组管理:admin、manager_n、user_n;邀请码注册、管理员升级/降级、用户分组调整、一个管理员接管多个用户组。
3. 技术栈、架构与实现亮点
技术栈:
- 后端:Python、FastAPI、Uvicorn。
- 数据库:MySQL。
- 前端:服务端模板渲染、HTML、原生 JavaScript、CSS。
- 文档:Markdown 转 HTML,并增强目录、代码块复制、图片预览。
- 服务部署:Linux、systemd 守护进程。
- 外部能力:上游模型管理 API、上游调用日志 API、邮件服务、对象存储/挂载目录。
实现亮点:
- 本地计费与上游成本分离:上游日志记录成本价,本地依据“获取折扣 / 售卖折扣”换算用户实际扣费,支持不同模型不同利润率。
- 调用日志驱动计费:不让用户请求经过本站推理网关,避免有限带宽成为瓶颈;仅周期性拉取上游日志完成同步和扣费。
- 余额保护:余额不足时禁用上游 Key,充值或人工调整后可恢复,避免用户继续透支。
- 上游用户映射:本站用户与上游 outUserId、customerCode 建立唯一关联,便于自动创建 Key、分配额度和追踪日志。
- 多层权限分组:用户归属 user_n,管理员身份为 manager_n;管理员可接管多个用户组,但自身主身份不变。
- 深浅色适配与移动端适配:页面、抽屉、弹窗、表单、分页及模型筛选均适配主题与不同屏幕尺寸。
- 高可维护性:前端静态资源带版本号避免缓存;关键功能配套自动化测试;服务通过 systemd 与健康检查提升稳定性。
主要难点:
- 上游日志字段、价格单位、缓存 Token、模型价格和本地余额之间的准确换算。
- 用户余额、上游 Key 状态、充值回调和定时同步之间的一致性控制。
- 分组管理员可跨多个用户组接管时,区分“管理员主身份”和“被接管组归属”。
- 在不转发模型推理流量的情况下,仍实现较接近实时的用量统计与扣费。
- 保持模型广场、管理后台、文档和移动端在持续迭代下的 UI 一致性。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论