本项目旨在解决企业引入大模型(LLM)时面临的“幻觉不可控”与“API单点故障”痛点。在智能客服、工单自动化分流、复杂业务审批等场景中,大模型虽然能生成灵活的策略,但常常输出不符合业务规范的垃圾数据,甚至直接宕机。本系统通过“AI生成+传统代码双重校验”的混合架构,保障业务在享受AI红利的同时,拥有绝对的确定性与高可用性。
点击空白处退出提示
本项目旨在解决企业引入大模型(LLM)时面临的“幻觉不可控”与“API单点故障”痛点。在智能客服、工单自动化分流、复杂业务审批等场景中,大模型虽然能生成灵活的策略,但常常输出不符合业务规范的垃圾数据,甚至直接宕机。本系统通过“AI生成+传统代码双重校验”的混合架构,保障业务在享受AI红利的同时,拥有绝对的确定性与高可用性。
项目核心在于构建一个既聪明又稳定的AI决策闭环:
智能策略生成:接入主流大模型API(如GPT/千问),根据用户输入或业务上下文,自动生成处理策略或回复话术。
硬核规则校验:将大模型输出的JSON/文本交由Java规则引擎进行严格校验(如:金额是否超限、权限是否匹配、违禁词过滤)。
失败回喂重试:若校验不通过,系统自动收集错误信息,重新组装Prompt回喂给大模型,令其自我修正(最多重试3轮)。
纯规则降级兜底:若模型多次重试失败或API网络超时/宕机,系统自动无缝切换至纯本地预设规则引擎,确保业务100%不中断。
1、具体任务:独立完成整体架构设计与全栈代码开发。包括大模型API的SDK封装、Prompt模板工程的动态化设计、Java规则校验器的开发以及全链路降级监控的接入。
2、技术栈与亮点/难点:架构基于Spring Boot生态,利用Redis做会话状态与重试次数的缓存限制。
亮点:创新性地引入了“AI幻觉防御机制”。并没有让大模型直接触碰底层业务逻辑,而是将其作为“参谋”,由Java代码作为“主将”做最终裁决。
难点:如何设计轻量级且高扩展的规则校验链(使用设计模式解耦不同的业务规则),以及如何优化Prompt,使大模型在重试时能精准理解校验失败的原因并进行修正。



评论