第一部分 项目背景本文将分享Python爬虫采集其他异构系统数据存入数据库，利用帆软报表+业务建模实现上下游数据集成打通。1.1 需要采集的数据某公司是国内销量前10的商用车制造商，使用SAP进行日常业务管理、使用SAP的SRM系统对上游供应商进行管理，为其配套的零部件供应商有几百家！SRM主要功能如下图，其中需求预测、采购执行监控、寄售库存监控是业务计划有关的数据，使用频率最高。1.2 业务痛点对于使用SRM的供应商来说，他们频繁登录SRM系统多有不便，SRM数据无法与自己公司信息系统对接，导致业务沟通不畅。1.3 业务诉求对于供应商来说，希望采集SAP-SRM数据，存入数据库，建立业务模型，实现客户计划、生产计划、库存占用之间的数据联动，从而提高效率，降低成本。第二部分 Python爬虫定制（数据采集）2.1 爬虫定制+数据采集数据采集集成是一门专业的技术，不同的网站采集方法不一样，不同的业务需求数据加工处理方法也不一样。网络爬虫，数据采集程序，不仅仅是采集数据，还要实现数据清洗、数据加工，数据对比分析，数据存储。数据采集程序可以按需运行，也可以按指定频率运行。新增业务数据可以通过企业*进行提醒。所以数据采集环节，存在很大的定制成分。2.2 待采集数据(SAP系统的SRM模块)SAP系统中【需求预测】、【寄售库存监控】是需要采集的数据2.3 已采集数据（存入数据库）数据采集工具运行后，将异构业务系统数据同步到本地数据库中。我们只使用数据状态为1的记录（为0的数据代表已经过期或者作废）。三、使用帆软报表展示数据、建立业务模型3.1 采集数据展示（需求预测）将异构系统采集到数据库中，通过帆软报表展示出来，这个没啥难度，直接上图。3.2 采集数据展示（库存明细）将异构系统采集到数据库中，通过帆软报表展示出来，将数据分成2级展示（按需求工厂显示库存数据概要、点击明细可查看数据明细）。3.3 业务模型建立3.3.1 业务规则采集并合理利用数据，最大限度发挥数据价值才是我们本案例的宗旨。本案例的业务模型就是业务规则。3.3.2 数据编程由于数据之间取数、计算关系复杂，本案例客户协同计划看板数据，大部分通过数据库存储过程编程实现。本案例只展示核心存储过程代码，其他存储过程在程序运行中自动调用，其他存储过程代码本案例不展示。3.3.3 数据计算结果通过数据库编程，调用程序计算，最终生成需要的数据。3.3.4 数据使用制作帆软报表，调用存储过程、使用数据库表3.3.5 数据展示将制作完毕的决策报表挂接到报表平台，分配权限，即可完成报表发布。四、案例视频介绍想了解整个过程，可以参考：http://pawho.cn/