AI 反诈核实平台:LLM Agent + RAG + 评测门禁(线上运行中)产品系统

我要开发同款
浪矢海狮2026年08月23日
6阅读

技术信息

语言技术
PythonFlaskpostgres
系统类型
Web
行业分类
金融人工智能

作品详情

行业场景

中老年人是电信网络诈骗的主要受害群体。现有的反诈工具大多面向专业人员,
界面复杂、结论晦涩,父母辈遇到可疑短信、陌生来电或链接时,往往只能打电话
问子女,而子女不一定随时能回。

立项目标是做一个「让父母自己就能用」的核实入口:把可疑内容粘进来,
系统直接给出安全 / 需谨慎 / 高风险的三级结论和一句人话解释,不要求用户
理解任何技术概念。

行业上属于公共安全与反诈宣传场景,同类需求也存在于银行、运营商、社区
适老化服务中——这类场景的共同特点是宁可误报、不可漏报,对模型输出的
可靠性要求远高于对话流畅度,这也是本项目在架构上重点解决的问题。

功能介绍

一、我的职责
个人独立项目,需求、架构、开发、测试到上线运维全流程一人完成。

二、技术栈
Python + Flask + Gunicorn;PostgreSQL + pgvector;Redis;前端 Next.js + TypeScript;Docker Compose 部署(应用+数据库+缓存+Caddy 自动 HTTPS),另有 Terraform 编写的 AWS ECS Fargate 基础设施代码。

三、亮点与难点
1、双轨判定:模型理解语义,规则引擎守底线,冲突时「只升不降」。难点是把安全兜底做成架构约束而非提示词约定,模型再波动也不会把高风险说成安全。
2、检索下沉到数据库:原先用 Python 逐条算余弦相似度,数据量上来后延迟明显,改为 pgvector + HNSW 索引在库内召回。
3、Agent 编排重构:手写的多轮工具调用循环改为 LangGraph 状态机,轮次上限由图的边约束,依赖经运行时配置注入,解决了不可序列化对象进入检查点的问题。
4、评测即上线门禁:CI 跑离线评测集,准确率低于 90% 或诈骗召回率低于 95% 直接阻断部署,当前基线 97% / 100%、零漏报。效果是被流水线卡住的,不是人肉自测的。
5、可观测性:OpenTelemetry 链路追踪 + 带 request_id 的结构化日志 + Prometheus 指标,均为可选依赖,缺失时自动降级。

四、可验证地址
体验:https://parent-check.onrender.com/
代码:https://github.com/olivia0401/parent-check

项目实现

一、我的职责
个人独立项目,从需求定义、架构设计、编码、测试到上线运维全流程由我一人完成。

二、技术栈
后端 Python + Flask + Gunicorn;数据库 PostgreSQL + pgvector 向量扩展;
缓存与限流 Redis;前端 Next.js + TypeScript + Tailwind;
部署 Docker Compose(应用 + 数据库 + 缓存 + Caddy 自动 HTTPS),运行于 AWS EC2;
另用 Terraform 编写了一套 AWS ECS Fargate 基础设施代码,可按需拉起。

三、实现亮点与难点
1、可靠性优先的双轨判定:大模型负责理解语义,规则引擎负责守底线,两者
冲突时只升不降。难点在于把「安全兜底」做成架构约束而不是提示词约定,
保证模型再怎么波动都不会把高风险说成安全。
2、检索从 Python 循环改为数据库内计算:早期用 Python 逐条算余弦相似度,
数据量上来后延迟明显;改为 pgvector + HNSW 余弦索引后在库内完成召回。
3、Agent 编排重构:把手写的多轮工具调用循环重写为 LangGraph 状态机,
轮次上限由图的边约束保证,依赖通过运行时配置注入而非塞进状态,
解决了不可序列化对象进入检查点的问题。
4、把评测做成上线门禁:CI 中跑离线评测集,准确率低于 90% 或诈骗召回率
低于 95% 直接阻断部署,当前基线 97% / 100%,零漏报。这是本项目和
一般 AI Demo 最大的区别——效果是被流水线卡住的,不是靠人肉自测的。
5、全链路可观测:OpenTelemetry 链路追踪 + 带 request_id 的结构化日志 +
Prometheus 指标,所有可观测组件均为可选依赖,缺失时自动降级不影响服务。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论