为 Agent 工作流与生产应用提供统一模型接入的聚合网关,一个 API 接入多家大模型。当前各大模型厂商接口与计费方式各不相同,应用开发需要逐个对接、维护多套密钥与用量统计,接入成本高、切换困难。本项目面向需要调用大模型的 Agent 工作流与生产应用,提供统一的模型接入、分组与计费管理能力,降低多模型接入与运维成本。
点击空白处退出提示
为 Agent 工作流与生产应用提供统一模型接入的聚合网关,一个 API 接入多家大模型。当前各大模型厂商接口与计费方式各不相同,应用开发需要逐个对接、维护多套密钥与用量统计,接入成本高、切换困难。本项目面向需要调用大模型的 Agent 工作流与生产应用,提供统一的模型接入、分组与计费管理能力,降低多模型接入与运维成本。
模型广场:展示并接入多家大模型,统一入口调用。分组与计费管理:对模型进行分组管理,支持按量计费。API 密钥管理:统一管理各模型的调用密钥。用量统计:统计各模型与各分组的调用量与费用。控制台:提供统一的模型接入与使用情况查看入口,方便日常运维。
我负责后端开发。后端基于 Java 微服务实现多模型统一接入、密钥与用量管理、按量计费逻辑,技术栈为 Java、Spring Boot、Spring Cloud、MySQL、Redis。



评论