LLM Router · 多模型路由网关开源项目

我要开发同款
lee436665552026年11月18日
4阅读

技术信息

语言技术
Java
系统类型
Web
行业分类
人工智能
开源地址
https://github.com/lee43666555/llm-router
授权协议
MIT许可

功能介绍

一个 OpenAI 兼容的 LLM 路由网关,用于降低企业大模型调用成本。核心功能模块:① OpenAI 兼容 API(/v1/chat/completions,支持 SSE 流式),任意 OpenAI SDK 可直接接入;② 模型路由决策器,按任务复杂度在强模型与便宜模型之间自动分流;③ 主模型失败自动故障转移;④ 用量分析,统计 token、费用、省钱比例,并按模型/档位/客户端分布;⑤ Web 管理台,含 Dashboard、模型管理、档位配置、对话测试。实测 52 次请求节省约 76% 模型成本。技术栈 Java 21 + Spring Boot 4.1 + Spring AI 2.0.2 + SQLite,API Key 走环境变量脱敏。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论