企业接入多个大模型供应商时,常面临接口协议不统一、渠道凭据分散、模型权限和调用额度难以按租户管理、调用成本与对客价格不易追溯等问题。TokenHub 面向企业研发团队及模型服务运营方,提供统一的模型接入和多租户运营管理入口。
点击空白处退出提示
语言技术
postgres、SQL Server、React、TypeScript、Go系统类型
Web、算法模型行业分类
人工智能、工业互联网
企业接入多个大模型供应商时,常面临接口协议不统一、渠道凭据分散、模型权限和调用额度难以按租户管理、调用成本与对客价格不易追溯等问题。TokenHub 面向企业研发团队及模型服务运营方,提供统一的模型接入和多租户运营管理入口。
系统分为平台运营后台和租户控制台。平台端提供渠道配置与测试、模型发现和绑定、模型目录与生命周期管理、路由配置、租户与套餐管理、成本定价、调价审批及审计日志;租户端提供模型广场、工作空间与成员管理、API 密钥及 Playground 流式试用。模型请求经过权限、可见范围和额度校验后转发至可用渠道,并记录用量和价格快照。
前端使用 TypeScript、React、Rsbuild 和 Tailwind CSS 构建双控制台;后端使用 Go、Gin、GORM 和 PostgreSQL 实现接口、业务处理与数据存储。项目在 New API 开源网关基础上,开发了多租户、工作空间权限、模型与渠道关系、配额计费和审批等 TokenHub 功能,并通过协议适配模块处理不同上游模型的请求和流式响应。



评论