开发者和企业在同时使用多家大模型 API、AI 编程工具及自动化脚本时，常遇到用量分散、费用难追踪、后台连续调用缺少预算约束的问题。我从自己的实际使用需求出发，开发了小提 TokenGate：通过本地代理集中记录已接入调用的用量，以可视化账本和预算闸帮助用户了解消耗并控制继续调用。项目坚持本地优先，进一步加入语音交互、长期记忆和提醒等桌面助手能力。经过 3 天 Node 原型开发和 7 天 Rust 版本开发，完成开发端可用原型，作为 TRAE AI 开发大赛复赛项目展示；后续其代理计量链路用于 Jianforge 企业智能体的用量管理。
1. 多供应商接入：管理模型服务配置，为支持自定义 API 地址的工具提供 OpenAI 兼容代理入口。
2. 用量与成本看板：记录上游返回的输入、输出 Token，展示消耗趋势、模型排行和调用流水；费用按配置单价核算，区分估算金额与未知单价。
3. 预算闸与人工放行：转发前检查已登记额度，额度不足时拦截后续请求，支持用户临时增加额度，并记录拦截与放行事件。
4. 桌面助手：提供语音交互、本地唤醒、长期记忆和定时提醒，并扩展音乐生成与可视化交互。
5. 可追溯工程：保留任务卡、问题归因、接口契约和回归脚本，便于定位故障及验证后续修改。
6. 运行与演示：已在 macOS、Linux 环境运行使用，并在哔哩哔哩发布演示视频。
完整功能演示（约 5 分钟真实录屏）：https://www.bilibili.com/video/BV1o2u76TEMG/
我负责需求定义、产品设计、架构选择、任务拆解、调试验收与迭代推进，使用 TRAE 协作完成开发。先用 3 天完成 Node 版本，验证交互与业务流程，再用 7 天完成 Rust 版本，总计 10 天做到开发端原型可用，成为 TRAE AI 开发大赛复赛项目。当前核心采用 Rust、Axum 和 Tokio，前端使用 React、TypeScript 与 ECharts，Electron 承载桌面交互，Go 提供受限的本机动作服务，SQLite 保存记忆等结构化数据。重点处理流式响应的用量采集、供应商与模型计价匹配、缓存计价、预算拦截和多模块状态一致性，通过接口契约回放、回归脚本和工程错题集记录问题及修复依据。目前已在 macOS、Linux 环境运行使用，并有哔哩哔哩演示视频可供查看。
评论