一、立项原因:旨在解决什么问题
1. 告警过载与人工研判效率瓶颈
传统安全运营中心(SOC)依赖安全分析师人工处理海量告警,日均告警量可达数千乃至上万条,远超人力处理上限。安全运营人员长期处于高压状态,因疲劳和知识盲区导致的误判、漏判频发。AI可精准处理初级告警、进行初步分析,有效缓解团队疲劳、堵住风险漏洞。
2. AI驱动的新型威胁加速攻防失衡
AI大模型和智能体的出现,让网络攻击进入工业化时代,攻击门槛从“专家级”降到“聊天级”。2025年已有案例表明,AI赋能下网络攻击效能比2021年快了3倍多。未来网络攻防或将演变为“人与机器”的对抗,加剧攻防不对称性。传统以人工为主的防御模式难以应对AI驱动的自动化、智能化攻击。
3. 安全运营从“人防”向“智防”跃迁的行业趋势
据Gartner预测,到2025年超过60%的企业将采用AI增强的安全解决方案;98%的企业正积极为代理式AI(Agentic AI)部署做准备;近九成尚未采用AI-SOC的组织计划在一年内进行部署或评估。行业共识是让AI从辅助分析工具升级为安全决策核心,直接参与侦测、风险建模与响应执行。
4. 通用大模型在安全场景的局限性
通用大模型难以直接胜任高噪声、高专业度、强实时性的安全任务。安全场景需要垂域模型与专业工具链的深度结合,通过RAG知识库、提示词工程、工具调用等机制,才能实现高质量、可信赖的自动化研判。
二、行业场景与业务背景
1. 行业场景:企业级安全运营中心(SOC)的智能化升级
本项目的核心应用场景是企业安全运营中心(Security Operations Center, SOC)。SOC负责7×24小时监测企业IT环境的网络安全态势,接收来自防火墙、入侵检测、终端安全等各类安全设备的告警数据,由安全分析师进行研判分析并输出处置建议。传统模式下,分析师需手动查询日志、关联威胁情报、查阅历史案例,完成一次告警研判往往耗时数分钟甚至更久。项目通过构建AI Agent平台,将日志查询、漏洞情报查询等安全能力封装为标准工具,Agent自动完成数据采集、上下文关联、推理研判全流程。
2. 业务背景:政策驱动与市场需求双重推动
政策层面:2025年政府工作报告强调持续推进“人工智能+”行动,支持大模型广泛应用;垂直场景大模型在网络安全领域的落地应用成为核心方向,安全建设全面向“AI高度自治化”发展。国家多部委已在实际业务中引入AI大模型赋能安全态势感知与研判。
市场层面:据IDC定义,安全运营智能体是由网络安全大模型驱动的自主软件实体,能够感知安全环境、进行推理、做出决策并采取行动。头部安全厂商正加速布局AI Agent、AISOC等核心产品。已有实践表明,AI SOC可实现超93%的告警研判准确率,是传统模式的2.7倍。
3. 技术背景:MCP协议与Agent架构的成熟
Model Context Protocol(MCP)协议为AI Agent与安全工具之间的标准化交互提供了技术基础。通过MCP协议将安全能力封装为标准化工具,可实现工具链的高复用与低耦合,为多Agent协同奠定架构基础。RAG向量检索、提示词工程等技术的成熟,也为构建高准确率的安全研判Agent提供了可行路径。
一、项目功能模块
1. 智能研判工作台
面向安全运营分析人员的统一工作界面,集成告警接入、AI研判结果展示、人工复核与反馈、处置建议推送等核心交互功能。分析人员可在工作台中查看告警详情、AI推理过程、置信度评分以及推荐处置方案,支持一键采纳或人工修正研判结论,形成“AI预研判→人工确认→反馈闭环”的人机协同运营模式。
2. AI Agent推理引擎
项目的核心决策层,负责承接告警输入、调度工具链、执行推理流程并输出研判结论。引擎内置多层次提示词工程,能够根据告警类型动态适配推理策略,调用安全工具获取上下文信息,最终生成结构化的研判结果,同时具备异常拦截与兜底能力。
3. MCP标准化工具服务层
基于MCP协议构建的统一安全能力接入层,将日志检索、威胁情报查询、资产信息获取、漏洞情报查询等10余项安全操作封装为标准工具接口,供AI Agent动态发现与调用,实现工具链的高复用与低耦合。
4. RAG向量知识库
基于Elasticsearch向量检索技术构建的历史告警知识库,存储历史典型告警案例及其处置经验。系统通过语义检索自动匹配相似历史告警,为AI推理提供参考依据,协助分析人员快速定位历史处置方案。
二、项目主要功能描述
1. 告警自动研判
平台接入企业各类安全告警后,AI Agent自动触发研判流程。Agent首先解析告警字段(攻击类型、源目IP、时间窗口、威胁等级等),随后根据告警类型动态调用MCP工具服务层获取上下文信息——包括查询相关日志片段、关联威胁情报、获取资产重要性评级等。在充分获取上下文后,Agent基于多层次提示词工程进行推理分析,判断告警是否为真实攻击(True Positive)或误报(False Positive),评估攻击成功与否及风险等级,最终输出结构化研判结论,包含攻击定性、风险评分、置信度以及处置建议。
2. 语义化案例检索与经验复用
平台构建了历史告警知识库,将过往典型告警案例及其研判依据进行向量化存储。当新告警进入时,系统自动将告警特征转化为向量,通过Elasticsearch向量检索在知识库中进行语义匹配,快速召回相似度最高的历史案例及其处置经验,辅助AI Agent参考历史研判逻辑进行推理,同时向分析人员展示检索结果供比对参考。典型告警的研判依据查找时间从分钟级降至秒级。
3. 安全工具标准化接入与编排
MCP工具服务层将日志查询、威胁情报查询、资产信息获取等10余项安全能力封装为标准协议接口,供多个AI Agent动态调用。分析人员可通过管理界面查看工具列表、调用记录及状态监控,运维人员可基于标准化接口便捷扩展新工具,无需修改Agent核心推理逻辑。
4. 人机协同与闭环反馈
AI预研判结论推送至智能研判工作台后,分析人员可在线查看完整推理过程与证据链,支持一键确认、驳回或修正研判结论。分析人员的复核操作自动回流至RAG知识库作为新增案例,持续丰富知识库并优化后续推理效果。形成“AI预研判→人工确认→反馈学习”的业务闭环,系统准确率随运营数据积累持续提升。
5. 推理质量保障与兜底机制
平台内置多层次提示词策略与输出格式约束,确保AI响应符合安全运营规范。同时建立异常拦截机制,当Agent推理置信度过低、输入异常或推理超时时,自动触发兜底策略——将告警标记为“待人工研判”并推送至工作台优先队列,确保关键告警不因AI异常而遗漏。
一、我负责的任务
作为研发负责人,主导了AI研判中心从0到1的全流程研发工作,具体包括:
整体架构设计与技术选型:负责平台整体架构设计,包括AI Agent推理引擎、MCP工具服务层、RAG知识库的架构规划;完成向量检索、大模型接入、工具协议等关键技术选型,输出技术方案文档并组织评审。
核心模块开发:负责MCP Tool Server框架代码编写,将10余项安全能力封装为标准工具接口;主导RAG向量知识库搭建,完成告警向量化处理与Elasticsearch向量索引的设计优化;负责多层次提示词工程的设计与持续调优;实现异常拦截与兜底策略的代码落地。
技术难点攻关:主导解决大模型幻觉问题,通过提示词约束与RAG事实依据双重机制保障输出可靠性;优化向量检索准确率,解决语义相似但业务不相关案例的误召回问题;突破MCP协议在安全工具标准化封装中的适配瓶颈。
团队管理与项目推进:制定研发计划与迭代节奏,协调2-3人团队分工,负责Code Review,与产品、算法团队协作推进项目按节点高质量交付。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论