基于大语言模型的智能 Agent 系统,能够将用户的自然语言业务请求自动分解为多步 API 调用链,实现从"查产品→找物流→创建订单"等复杂业务流程的端到端自动编排。
点击空白处退出提示
基于大语言模型的智能 Agent 系统,能够将用户的自然语言业务请求自动分解为多步 API 调用链,实现从"查产品→找物流→创建订单"等复杂业务流程的端到端自动编排。
设计并实现了一个 AI Agent 编排引擎,核心功能是将自然语言业务请求自动转化为多 API 调用链。
系统采用 Plan-then-Execute 架构:LLM 负责任务分解与决策(Plan),向量检索引擎(Milvus + Reranker)负责 API 发现,参数提取模块负责将用户意图映射为 API 参数,最终由执行引擎按序调用外部 API 并汇总结果。
实现了 Human-in-the-Loop 交互模式,用户可实时查看、审批每一步执行状态。
系统支持 JWT 认证、提示注入攻击检测、TTL 会话缓存等工程能力,可承载日均近万次 API 编排请求。
成功将某企业工作流程周期从小时缩短到分钟,效率提升30余倍。
1.Agent编排闭环完整:任务判断→工具选择→参数抽取→缺参补全→人类确认→工具调用→结果,
2.工具检索与RAG链完整:MongoDB元数据+Milvus向量索引+text-embedding-v3生成embedding+Qwen gte-rerank-v2做rerank,三段式检索链路实现到位。
3.OpenAPI/Swagger工具生态:支持从Swagger JSON导入工具、动态解析参数schema、自动生成工具描述,体现了API Copilot的核心能力。
4.安全意识覆盖较全:JWT认证、权限装饰器、bcrypt密码加密、人工确认环节、prompt injection判断、参数合理性校验、循环调用检测。
5.调用链可视化设计:nodes/edges图结构贯穿任务执行全过程,两份评价都认为这体现了"不一次性返回调用结果"的设计意识。
6.非简单聊天壳:共同认定这不是调一个LLM接口的简单项目,而是有完整业务链路的企业内部Copilot/Agent后端。



评论