ai-api-kit · 大模型接口接入骨架开源项目

我要开发同款
kevan2026年10月30日
4阅读

技术信息

语言技术
Java、Maven
系统类型
Web、Windows、Linux
行业分类
人工智能
开源地址
https://github.com/KevanCode/ai-api-kit
授权协议
MIT许可

功能介绍

提供一条完整的调用链路:先过熔断闸门,再执行带指数退避的重试,最后落到兜底话术并把原始问题写入人工队列。失败被分成可重试、不可重试、需要转人工三类,不同类别走不同分支,避免把密钥失效这类确定性错误反复重试多次。熔断器为三态模型,打开后直接快速失败、不再打下游,冷却期满进入半开状态且只放行一个试探请求,试探成功才恢复。所有调用返回统一结构,携带答案来源(模型或兜底)与实际尝试次数,便于监控重试率,也便于判断故障是单点还是整片下游在抖。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论