1. 应Agent市场开发需求,搭建Agent,利用LLM为简单场景赋能
2. 通过后端可以提供RESTFUL风格接口,为前端提供对话,表格,数据分析,基础设施操作等能力
点击空白处退出提示
1. 应Agent市场开发需求,搭建Agent,利用LLM为简单场景赋能
2. 通过后端可以提供RESTFUL风格接口,为前端提供对话,表格,数据分析,基础设施操作等能力
1. 通过深度定制 Spring Boot 生态与大模型 API,构建了具备自主规划、工具调用及严格权限隔离(数据层面隔离)的智能体(Agent)架构
2. 通过 RESTful 风格接口在智能体与现有数据中台之间构建可执行化桥梁,为无痛无侵入式的Agent架构奠定了基础。
1. 企业级 LLM 集成与配置化治理
实现大模型服务的配置化解耦,将 API-Key、模型名称及系统 Prompt 抽离至配置文件,支持热更新与多模型无缝切换。
设计结构化 System Prompt 工程方案,通过占位符动态注入工具定义与业务规则,确保模型输出的可控性。
2. 基于反射的工具调用(Tool Calling)框架
自研基于 Java 反射(Reflection)的工具自动注册机制:自定义 @Tool注解,在 Spring Boot 容器启动阶段扫描指定包路径,自动解析方法的签名(出入参、自定义对象)。
构建内存级“工具元数据池”,将复杂的 Java 方法结构序列化为 JSON Schema 描述,注入模型上下文。
制定严格的模型输出协议:强制模型以 JSON 格式返回,通过 type字段区分 SAY(语义回复)与 ACTION(工具调用),解决了 LLM 输出非结构化导致的调用失败问题。复杂出入参利用JSON解决参数匹配。
实现安全的方法调用执行器:解析模型返回的 JSON 指令,利用反射机制动态加载类、匹配方法并执行,将执行结果回传给模型,形成闭环;利用AOP特性实现调用链日志可视化。
3. 高精度 RAG 知识库构建与优化
采用 Chroma 作为向量存储引擎,引入 BGE(BAAI General Embedding) 作为核心嵌入模型,提升矿业领域专业术语的语义匹配精度。
针对中文矿业文档优化文本切分策略:设定 384 Token 的滑动窗口,配合 80 Token 的重叠区,有效解决了长文本语义割裂导致的检索失真问题。
实施混合检索策略,将向量相似度与关键词匹配结合,将核心知识库的召回率稳定提升至 90% 左右。
4. 会话管理与安全架构设计
设计基于 MySQL 的多级会话存储机制,按 SessionID



评论