背景痛点有二:一是工业安全生产长期靠经验、靠人 —— 安全制度多且复杂,一线工人记不住,紧急情况下容易出错,安全管理停留在 "能监控、会报警" 的感知智能层面,缺少会分析、能问答、出报告的决策智能;二是大模型落地工业难以规模化 —— 工业客户需求碎片化,每个客户场景、数据、问答逻辑都不同,逐项目从零开发成本高、周期长。
面向行业:安全生产(矿山、煤炭、石化、水务等高危行业)与工业互联网平台。实际部署在水务、易度等项目;度安安另落地矿山和石化场景,中海油大榭石化通过引入度安安实现安全隐患秒级预警、事故响应速度提升 5 倍。承载平台为百度智能云开物 —— 国家级 "双跨" 工业互联网平台,覆盖制造、能源、电力、水务等 20+ 行业。项目 2023 年 9 月于百度云智大会发布,度安安同期入选 "2023 年人工智能融合发展与安全应用典型案例"(领航型)。
对外提供四类核心应用能力(算法同学已基于此发布 20+ 个大模型 APP):
1. 智能助手:对话式问答,流式返回,能分析预警、回答专业问题、撰写报告 —— 典型如度安安的预警分析总结、HSE 专业问答、安全报告撰写;
2. API 智能调用:大模型理解意图后自动调用后端 API 或工具,支持业务系统联动;
3. 文档检索:基于知识库 / 文档的检索增强问答,如安全规程、作业指导书问答;
4. BI 取数 + 图表绘制:自然语言查数、自动生成可视化报表。
另具低代码定制能力:基于 Langflow 可视化创建 "大模型思维链" 应用编排,客户或算法同学可自助搭应用,已支持 200+ 个定制化 APP—— 这是用一个框架服务多个行业客户的核心抓手。
技术栈:Python、LLMOps、Ray Serve、FastAPI、Websocket、ChatAPI、K8s、Grafana、Prometheus、Langchain、Langflow。
实现分四层:
- 服务框架层(核心):RayServe + FastAPI + Websocket 提供大模型问答服务;Langchain 负责调用大模型;Langflow 支持低代码大模型链构建;APP 与 Host 分离式部署、运行时动态识别加载应用;
- 应用层:已发布 20+ 大模型 APP,提供智能助手、API 智能调用、文档检索、BI 取数、图表绘制等能力;
- 基础设施层:K8s 容器编排部署,Grafana + Prometheus 监控,LLMOps 全链路运维;
- 客户交付层:度安安(水务、易度、矿山、石化等)、开物数智化平台。
个人职责:负责服务框架设计与核心研发,以及与前端、算法同学的代码适配和联调。
关键设计点:APP/Host 分离 + 动态加载(新 APP 发布无需重启主服务,支撑 20+ 到 200+ APP 的规模化增长);RayServe 承载服务;Langflow 把定制化能力下放给非框架开发者,让算法自助构建 APP;Websocket + ChatAPI 保证流式问答体验。
量化成果:20+ 大模型 APP、200+ 定制化 APP、2023.09 云智大会发布、水务 / 易度等部署落地。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论