TokenHub 多租户大模型服务平台产品系统

我要开发同款
李学利2026年10月15日
3阅读

技术信息

语言技术
postgres、SQL Server、React、TypeScript、Go
系统类型
Web、算法模型
行业分类
人工智能、工业互联网

作品详情

行业场景

企业接入多个大模型供应商时,常面临接口协议不统一、渠道凭据分散、模型权限和调用额度难以按租户管理、调用成本与对客价格不易追溯等问题。TokenHub 面向企业研发团队及模型服务运营方,提供统一的模型接入和多租户运营管理入口。

功能介绍

系统分为平台运营后台和租户控制台。平台端提供渠道配置与测试、模型发现和绑定、模型目录与生命周期管理、路由配置、租户与套餐管理、成本定价、调价审批及审计日志;租户端提供模型广场、工作空间与成员管理、API 密钥及 Playground 流式试用。模型请求经过权限、可见范围和额度校验后转发至可用渠道,并记录用量和价格快照。

项目实现

前端使用 TypeScript、React、Rsbuild 和 Tailwind CSS 构建双控制台;后端使用 Go、Gin、GORM 和 PostgreSQL 实现接口、业务处理与数据存储。项目在 New API 开源网关基础上,开发了多租户、工作空间权限、模型与渠道关系、配额计费和审批等 TokenHub 功能,并通过协议适配模块处理不同上游模型的请求和流式响应。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论