智能图像审核Agent产品系统

针对很多图片的场景隐喻表达，丑化暗示，传统的图像模型无法准确识别出其中暗含信息。
利用大模型对图像的语义理解能力，结合人工的审核违规案例，参考分析，总结风险。

1、数据库管理模块：管理知识库，包括图像知识库以及文本知识库，即图像的caption，风险描述
2、RAG模块：根据图像的描述，检索知识库里最相似的元素文本，给出审核参考意见
2、意图判断模块：判断是否需要调用其他辅助工具，如人脸识别等
3、动态规则模块：针对特定领域的风险管控，添加用户自定义规则
4、审核分析模块：结合参考案例，给出审核结论

我负责整个项目的开发，包括使用ES建立知识库，redis缓存结果，mysql做持久化保存。
独立开发审核规则设计prompt，工具调用功能，动态规则应用，优化多节点部署，提升响应时间。