立项原因:市面上的 Agent 大多是一次性脚本,工具、规划、记忆、容错互相耦合,无法复用、无法管理工具、无状态、无记忆,二次开发成本高。本项目旨在打造一套**轻量化、可插拔、可部署的 Agent 调度框架**,把「工具注册、任务规划、会话记忆、异常容错」沉淀为分层复用能力。
行业场景:面向企业数字化转型与 AI 应用落地场景,如智能客服、工单助手、数据查询助手等。开发者无需关心 Agent 内部机制,只需注册工具、配置模型即可快速搭建业务智能体;支持 OpenAI 兼容协议接入千问、DeepSeek 等主流大模型,也支持无 Key 演示运行,适合作为企业内部 AI 能力底座或对外交付的标准化产品。
1. 统一工具注册中心:泛型 Registry + 装饰器注册,天气、计算器、时间、知识库检索等工具可插拔接入,统一参数校验,新增工具零侵入。
2. LLM 自动任务规划:多步骤任务自动拆解、自动选择工具、JSON 容错解析、最大步数截断,一次提问可编排多工具协作执行。
3. 双缓存记忆机制:短时记忆(会话内滑动窗口)+ 长时记忆(Redis 持久化)+ Hybrid 冷热分层,支持跨会话多轮连续任务,重启可恢复。
4. 会话状态持久化:会话级管理,多轮连续对话、历史会话切换与恢复,删除会话联动清理记忆。
5. 异常自愈与兜底:指数退避重试、工具参数错误自动回喂 LLM 修正、失败兜底回答,保证流程不中断。
6. 工程化配套:FastAPI 服务层、API 鉴权与限流、用量监控面板、品牌白标化、Docker 一键部署,146 个自动化测试全绿。
源码地址:https://github.com/DevinHeCoder/agent_framework
在线演示:https://devinhecoder.github.io/agent_framework/
采用**分层架构**:公共层(泛型 Registry、分层异常体系、YAML 配置 + 环境变量注入)→ 工具层(BaseTool + 4 个内置工具)→ 记忆层(in_memory /redis/hybrid 可切换)→ LLM 客户端层(fake 演示 + OpenAI 兼容真实模型)→ 规划层(任务拆解、自动选工具)→ Agent 核心(ReactAgent 循环执行 + RetryPolicy 容错)→ API 服务层(FastAPI)。
每层遵循「抽象基类定义契约 + Registry 管理实现 + 装饰器注册」三件套,运行时通过配置或 `AGENT_` 前缀环境变量选型切换。全程记录工具调用执行轨迹,前端控制台可视化展示每一步。支持 Docker Compose 一键编排(app + Redis),通过 GitHub Actions 持续集成,本地与 CI 双通道测试保障。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论