TitTech 大模型中转平台面向人工智能应用开发者、软件团队及企业客户建设。项目立项旨在解决不同大模型接口标准不统一、账号与额度分散、调用成本难以统计、单一通道稳定性不足等问题。平台通过统一的 API 网关接入多种主流大模型,为 AI 编程工具、智能客服、内容生成、企业知识库和智能体应用提供稳定的模型调用、用量计费及账号管理能力,降低客户接入和运维成本。
点击空白处退出提示
TitTech 大模型中转平台面向人工智能应用开发者、软件团队及企业客户建设。项目立项旨在解决不同大模型接口标准不统一、账号与额度分散、调用成本难以统计、单一通道稳定性不足等问题。平台通过统一的 API 网关接入多种主流大模型,为 AI 编程工具、智能客服、内容生成、企业知识库和智能体应用提供稳定的模型调用、用量计费及账号管理能力,降低客户接入和运维成本。
平台包含用户注册登录、API密钥管理、模型分组、上游账号池、智能调度、接口转发、Token计费、余额充值、订阅套餐、兑换码、邀请返利、调用记录、数据看板及后台运维等模块。支持 OpenAI、Claude、Gemini 等不同协议和模型渠道,可根据账号状态、剩余额度、优先级及并发情况自动选择可用线路,并提供粘性会话、失败重试、限流和过载冷却。后台可管理用户、账号、倍率、模型白名单、支付渠道、公告和告警规则,同时支持调用统计、异常诊断、提示词安全审计及接口运行状态监控。
我负责 TitTech 平台的需求梳理、品牌定制、前后端功能开发、模型接口适配、计费支付、运维监控和服务器部署。前端采用 Vue3、TypeScript、Vite、Pinia、Tailwind CSS 与 Chart.js,后端采用 Go、Gin、Ent,配合 PostgreSQL、Redis、Docker Compose及反向代理完成部署。实现难点主要包括多种模型协议转换、流式响应稳定转发、高并发账号调度、Token精确计费、余额与订单一致性以及异常线路自动回避。项目通过账号级和用户级并发控制、速率限制、粘性会话、熔断重试、日志脱敏和安全审计提升平台稳定性与数据安全。





评论