**项目定位:**面向个人开发者与小型团队的大模型接入及管理平台,解决多渠道配置分散、模型调用接口不统一、使用成本难追踪等问题。用户可注册账户,配置自己的上游渠道和网关密钥,通过 OpenAI 兼容接口调用模型,并在可视化控制台查看用量与成本。
**核心功能:**支持渠道管理、模型映射、密钥管理、流式响应、渠道连通性测试及用量日志查询;通过渠道选路、故障切换和熔断机制处理上游异常,提供速率限制与日/月 Token、费用配额,帮助用户控制调用规模。账户间数据隔离,适用于个人 AI 应用开发、团队模型接入与调用成本管理。
**技术实现:**后端采用 Go 标准库 net/http,按账户、渠道、用量、限流、配额和代理编排划分业务模块;使用 PostgreSQL 与 sqlc 实现持久化,以定点金额计算和数据库事务保障成本记账的一致性。渠道密钥加密存储,网关密钥及会话令牌仅存哈希。前端采用 React、TypeScript 与 Vite,结合 OpenAPI 生成接口类型,减少前后端字段不一致问题;通过 Docker Compose 与 nginx 完成部署。
**开发方式:**发挥算法训练积累的逻辑分析能力,借助 AI 工具辅助方案梳理、代码实现、接口联调和问题定位,提高全栈开发效率,同时注重代码审查、边界处理与测试验证。项目体现了从需求拆解到前后端实现、部署配置的完整实践能力,也为后续承接 API 集成、管理后台及 AI 应用开发提供了技术基础。
点击空白处退出提示











评论