llm-router-lite 是一个可自行部署的大模型网关：给应用一个 OpenAI 兼容入口，支持多 provider 路由、重试、熔断、降级与流式输出；每个客户独立 key、模型白名单、限流与月度预算；SQLite 记录 token 与成本，Dashboard 查看用量、熔断状态和最近请求。适合需要统一接入多家模型、控制成本与故障降级的团队。
点击空白处退出提示
语言技术
Python系统类型
Web、Linux行业分类
人工智能开源地址
https://github.com/hanxmone-ai/llm-router-lite授权协议
MIT许可开源组织
hanxmone-ai
llm-router-lite 是一个可自行部署的大模型网关：给应用一个 OpenAI 兼容入口，支持多 provider 路由、重试、熔断、降级与流式输出；每个客户独立 key、模型白名单、限流与月度预算；SQLite 记录 token 与成本，Dashboard 查看用量、熔断状态和最近请求。适合需要统一接入多家模型、控制成本与故障降级的团队。
评论