Token风控系统产品系统

1。项目立项原因
随着企业对 Claude 等大模型的使用规模扩大，Token 消耗不可预测、超限导致业务中断、模型切换缺乏自动策略，成为生产环境的核心痛点。现有工具（如 sub2api）聚焦流量中转和拼车分摊，缺乏主动风控能力——超限只能被动等 429 报错，没有提前预警和自动降级机制。本项目旨在填补这一空白，在不影响业务正常运行的前提下，对 Token 用量实施主动管控。
2。行业场景与业务背景
项目面向中小企业研发团队和 AI 应用服务商。这类用户通常通过订阅制账号（Claude Pro/Team）驱动线上业务，Token 配额有限且按周期重置。一旦用量触顶，服务直接中断，影响终端用户体验。系统在网关层代理所有请求、完整记录用量，通过可视化规则配置实现阈值预警、自动降级（切换至 Flash 等轻量模型）和熔断保护，同时支持 prompt 优化注入，兼顾成本控制与缓存命中率，构建企业级 AI 用量风控的完整闭环。

1，功能介绍：全局仪表盘，治理中心，实时监控。
2，主要功能描述：
系统在网关层代理并记录所有 AI 请求，实时统计 Token 用量。当用量触达预设阈值，自动触发降级（切换 Flash 模型）或熔断（拒绝请求），支持手动干预。提供可视化监控大盘与历史趋势图表，内置 prompt 优化注入能力，在不破坏缓存命中率的前提下提升回复质量，帮助团队在订阅配额内稳定运行 AI 业务。

从零到一完全自主开发，所有功能绝大多数由自己开发完成，少部分有claude辅助开发完成