缓存系统

该项目旨在从特定网站上爬取数据,并将其保存到本地或者进行进一步的处理分析 Requests:用于发送HTTP请求获取网页内容。 Beautiful Soup:用于解析HTML网页内容,提取所需数据。 Scrapy(可选):一个强大的爬虫框架,提供了更多的功能和灵活性。 数据存储:可以使用各种方式,比如保存为文本文件、CSV文件、JSON文件,或者存储到数据库中(如SQLite、MySQL等)。 发送HTTP请求获取网页内容。 解析网页内容,提取所需数据(如标题、内容、链接等)。 保存提取的数据到本地文件或者数据库。 处理异常情况,如网络连接错误、页面解析错误等。 支持多线程/异步操作,提高爬取效率。 可配置化:允许用户指定爬取的起始URL、要爬取的数据类型等。
290python缓存系统
公司多个传奇游戏后台的数据分析采集,游戏内邮件,礼物,开服 跨服 合服 游戏内容 游戏内充值回调 封禁礼包 码限制等等。功能描述: 1:游戏区服限制 通过后台操作游戏内区服开服时间数量写入mysql表内让运维负责把后续区服开启,关闭 合服 跨服等操作,2:游戏礼包,邮件发放 个人邮件通过调用服务端邮件接口发送邮件内容,多人邮件或者全服邮件通过redis队列方式进行发送 定时发送 由linux supervisor 进行定时发送 进行发放3:服务端上传阿里云日志后台通过采集阿里云内日志给运营展示 游戏内玩家信息,物品 充值 (发言监控:通过轮询方式监控游戏内玩家时候有违规发言进行对玩家禁言封号处理)4:数据每天凌晨通过定时采集各个服务器平台台下区服数据汇总在一张表格里进行加工对ltv,充值,登录,注册情况分析5:针对渠道游戏内各种汇报来的bug问题进行修正
480PHP集群/负载均衡
1.达易充充电管理系统由感知层,网络层,平台层,应用层组成,通过传感技术,感知并采集充电设备、车辆电池的数据,利用设备上的通讯模块与平台建立通讯通道,进行数据传输 2.负责充电站查找,前端传入位置经纬度,后端根据位置经纬度查找2公里内充电站,APP扫码充电,用户扫描充电桩二维码,获取当前充电桩设备信息,并通过平台系统下发启动充电指令,前端每隔30秒获取一次充电电量,费用信息,使用redis缓存充电站数据,各业务端能够快速的查询到充电站信息,利用redis GEO来处理距离的计算和某个范围内充电场站的数据 3.同时有10000个用户访问,每个用户访问的考试网页中包含200个请求,服务器每秒最高要处理200万个请求,使用了nginx搭建网站集群处理高并发。
720Java缓存系统
1,服务于养老,具有服务商入驻,养老机构入驻,订单(下单,接单,定位签到,服务,结束服务签到,评价,异常处理等),对账管理,服务人员信息管理,老人信息管理,老人服务地址管理,功能室管理(物联网相关设备对接,物联设备信息读取,指令下发),统计分析模块。 2,项目采用SpringBoot单体基础模块搭建,代码上采用分模块方式进行编写,易于扩展,好维护,好上手,代码编写风格严格按照阿里巴巴编程规约实施。 3,具体使用技术包括SpringBoot,Flowable,Netty,MybatisPlus,SpringMVC,SpringSecurity,MySQL,Vue,XxlJob等 4,解决了民政局部门统筹区域内老人免费配送餐,区级补贴等政策的落实以及监管,便利了服务商的入驻,以订单的流程简化了服务商为老人进行养老项目服务的流程,并具有订单对账,订单审核,订单位置定位等功能模块解决, 服务商,养老机构等入驻需要进行审批,引入了工作流,可对审批对象进行通过,驳回,回退等审批处理。 6,因为要对福利院老人进行体征活动监测,平台还需要连接物联设备,具体解决的技术问题包括物联设备信息传输丢包,后台信
860Javavue
一个综合性环境数据处理平台,专注于处理和融合多种来源的排放清单数据,将不同数据源的排放清单进行整合,生成综合、完整的排放数据;同时通过简易融合功能,用户可以从多个维度对整个排放清单进行调控,以适应不同的分析和评估需求,为环境保护和决策提供可靠的数据支持。 项目职责:作为Java开发工程师,参与该项目后端核心功能开发,包括需求分析、架构搭建、技术选型、项目开发等,具体如下: 1) 用户权限认证服务:负责该服务架构设计、系统开发,采用Spring Boot、MyBatis和PostgreSQL(pgsql)数据库。 2) APIsix网关和Wolf的集成:结合APIsix网关和Wolf,根据具体需求,在不同场景下完成用户权限认证和安全防护的实现。有效地保护系统免受潜在的安全威胁。 3) 云平台业务服务:负责开发云平台业务服务中的用户购买记录、使用记录和订单记录等模块,实现模块的业务逻辑处理和数据持久化。 4) 多尺度排放清单融合工具服务:包括专业融合、排放调控和简易融合等模块的实现。为了实现后台计算的解耦和异步处理,采用Gearman和多线程的方式。对算法进行优化,确保在大批量计算时用
810Java缓存系统
分为企业网和运营商平台,是面向华为用户、渠道合作伙伴推出的技术服务支持平台。主要功能:提供技术资料、产品资料、软件、软件补丁下载,案例和公告等在线技术支持服务。项目特点为高可用,网站可用性为4个9。 优化相关慢接口,优化前接口平均响应速度4s,优化后平均响应速度0.4s以内。 参与了系统异地双活、双域名改造、多域名改造等系统优化,提高support系统的可靠性、性能、可扩展性和安全性。 担任support组内的开源代表,负责进行jar包的升级或者替换方案的输出,当前Support网站基本实现依赖jar包合规。
400Tomcat 扩展项目
1、通过后勤运维管理系统为用户设计开发设备管理、仓库管理、流水线管理、项目管理、对账管理、供应商管理等功能,便于使用软件平台帮助用户标准化物料流程,加强需求货物和采购货物的核对,提前预知需求货物,通知供应商备货极大的缩减了供货周期,提高生产效率,同时加强管理层对项目进度的把控,加快物料入库的效率,防止错记漏记。 2、负责项目的需求分析、市场调研、竞品分析、完成产品设计和PRD文档,对项目快速推进管理。
290常用JavaScript包
一.项目分为智慧停车管理系统及先离后付管理系统。 1.智慧停车管理系统包含商户中心,运营中心,财务中心,数据分析,审批中心,系统管理,六大模块。商户中心主要包含了商户的信息及停车场信息和微信和支付宝先离后付能力申请的数据。运营中心包含了优惠券、停车产品、黑名单及车主查询等功能。财务中心包含先离后付订单、预交费订单、退款记录、订单追缴记录、开票记录、异常订单、进出场记录以及订单的退款和审批功能等等。数据分析包含对接商户信息(统计商户的场库数、订单数、进出场数、发票数、产品数等等)、异常订单自查(主要存储各种异常及原因,请求及响应)、失活场库(统计的最近一月内没有订单的场库)。审批中心包含收款商户信息变更审批及退款审批。系统管理包含对模块、字典、用户及商户信息的管理。 2.先离后付管理系统主要包含公众号调用的微信支付宝支付功能、开票功能、停车导航查询场库功能、场库调用的进出场记录、账单推送、等等。 二. 1. 主要负责的模块是:微信进件申请模块的接口开发、支付宝停车场注册模块的开发、财务中心的先离后付订单模块、账单查询模块、异常订单模块、开票记录模块、黑名单模块的开发及停车场某些功能
270Javavue
独立开发的问卷调查系统,运用Vue.js构建响应式前端界面,确保用户在不同设备上都能获得流畅的填写体验。后端采用Spring Boot框架,实现问卷创建、发布、回收及数据分析等功能模块,展现出我对全栈开发技术的精通与实践。系统整合MyBatis-Plus进行数据持久化操作,利用Redis进行高效缓存处理,确保后台数据实时更新、交互流畅。从需求分析到完整部署,全程独立完成,有力证明了我在项目规划、前后端开发、数据库设计及系统优化等方面的技术实力与独立工作能力。
570Java服务器端JavaScript
- 项目描述: 微服务电商系统模拟京东商城的架构和实现,具备主流i商城系统大部分功能,用户可以访问商城,搜索商品,选择商品,加入购物车,查询订单,以及进 行订单支付。 - 主要工作: - 设计实施Cookie+Token+Redis实现会话共享,优化系统登录功能。 - 保证多线程安全问题,引入分布式锁。 - 优化系统查询功能,极大提高了查询效率,减少数据库压力和服务器开销。 - 解决购物项合并排序问题,在减少服务器开销的基础上实现数据的有序排列。 - 搭建FastDFS分布式文件系统作为项目的核心文件存储解决方案。 - 集成Elasticsearch企业级搜索引擎作为项目的核心搜索和分析引擎,增强系统的搜索效率。 - 对接微信支付和支付宝支付。 - 前端页面搭建,请求封装,配置前后端跨域,实现数据交互。 - 微服务模块部署Docker容器。
480支付(Payment)
项目描述: 为了优化医院的服务流程,通过自助机系统可以一站式完成预约、挂号、打印报告、查询药价、门诊缴费等服务。 主要模块: 预约挂号模块、支付模块、排班模块、号源模块、消息中心模块、门诊缴费模块、住院缴费模块、爽约管理模块、数据统计管理。 主要职责: 1. 主要负责预约挂号模块的设计与开发。 2. 使用WebSocket技术,实现实时通知自助机支付结果需求;以及超时未支付订单及时进行取消挂号释放号源功能。 3. 利用RocketMQ的事务消息特性,解决挂号模块、排队叫号模块、消息中心等模块分布式事务问题,同时实现系统解耦。
320Java缓存系统
## 云上IM 功能模块和技术栈 ### 1. 项目功能模块和使用者功能 **项目功能模块:** * 私聊:文字消息、表情、照片、文件、语音、回执、撤回、已读未读状态显示 * 群聊:文字消息、表情、照片、文件、语音、回执、聊天记录、@群成员、撤回、在线人数显示 * 用户:用户信息、修改信息、修改密码、登陆、登出、注册、权限升级/降级 * 任务:任务列表、工作内容、成员添加/删除、进度、审批、创建/删除 * 公告:公告内容、列表、广播展示、添加/删除 * 企业文化:文化展示 * 其他:历史记录、离线消息、粘贴截图、logo ### 2. 个人负责任务和技术栈 **个人负责任务:** * 私聊功能开发 * 群聊功能开发 * 用户功能开发 * 任务功能开发 * 公告功能开发 * 企业文化功能开发 * 其他功能开发 **技术栈:** * 前端:Vue.js、Element UI、WebRTC,webSocket等 * 后端:Java、Spring Boot、MySQL,Redis等 * 云服务:阿里云 **最终成果:** * 开发了一个功能齐全、易于使用的云上IM系统 *
760JavaOA办公/协作平台
杭州市滨江区市民中心一网统管项目包含九大子系统及四大应用支撑服务:浙政钉应用,统一智治门户,事项管理系统,协同联动系统,公共服务,预警研判系统,考核管理,高效处置一件事,一体化指挥平台及,配置管理(应用支撑),事件中枢(应用支撑),数据服务,系统对接,四平台融合等。 浙政钉应用系统包含综合查询,工作台,协同联动,一体化指挥等模块。综合查询有事件筛选,事件展示,催办督办,事件抽检,事件抄送。工作台有消息通知,事件统计,协同处置。协同联动系统有事件上报,事件受理,事件分拨,事件处置,事件审核,事件查询。一体化指挥有事件续报,指挥地图,任务中心,视频会商,指挥资源。 统一智治门户系统包含账号信息,统一登录,消息通知,数据看板,待办工作,预警研判,统一应用入口,一件事应用等,分别处理待办事件,城市体征预警,隐性问题预警。 事项管理系统包含系统部署服务,事项库,事项申请,已退回申请,部门初审,社会治理中心审核,协同审核,事项发布,事项管理,事项配置。 协同联动系统包含事件查询,所辖统计,事件上报,受理中心,自动流转分拨,分拨中心,处置中心,审核中心,事件跟踪,全量事件库等模块。 公共服务系统包含
560Java并发/并行处理框架
调度系统主要分为:用户管理模块、任务分配模块、车辆通信模块、交通管制模块、充电模块、休息模块、全局配置模块、外部设备模块和路径规划模块。 1. 实现了与机器人的通信,对车辆运行进行交通控制,车辆运行监控以及业务任务和车的匹配,车辆的充电和休息配置, 2. 实现了用户、角色的鉴权管理、车辆运行地图上次修改,软件的版本管理、系统运行监控。 主要负责交管管制,车辆休息充电,路径规划,全局配置、地图管理、系统运行监控等功能的开发以及分布式架构改造升级。次要负责车辆通信模块以及用户模块。实现多车的合理调度,以及提供了改进的路径规划功能,使用Redis的订阅发布功能清除分布式部署数据不一致问题。利用静态代码块有限运行以及反射实现了全局配置的热更新功能。实现了地图文件的上传和编辑功能。 期间遇到了交管模块和休息模块运行效率低的问题,使用了多线程和分组优化交管管制模块和车辆休息模块的效率,使用A*替换了迪杰斯特拉算法优化了路径规划。同时通过修改
330Javavue
项目分为任务分配,评卷-试卷获取、分数记录,结果上传等模块,负责多人评卷时同一份试卷的派发处理,结果保存及上传。其中使用了redis来保证试卷派发的单一性
300Java缓存系统
开发环境:Windows10、IntelliJ IDEA、Mysql、Git、java8 软件架构:SpringBoot + SpringCloud + MyBatis + Redis + Nginx 项目描述:本项目是一个在线教育平台 ,适合人群学生和教师 ,学生可以根据老师发布的信息 、课程进行学 习 ,有线上视频 、线上直播、课程推荐 ,还提供线下辅导它支持一对一辅导和组团辅导,根据学生的需求匹配教师,用户选择自己满意的老师进行辅导老师可以发布课程、在线直播 、线下辅导获取收益 责任描述: 1、参与需求分析的修改 、开发文档的编写 、表设计 。 2、负责用户模块的教师端的用户信息管理 、手机 号修改 、教师发布课程和发布信息 。 3、老师接单打卡, 自主完成前后端交互 。
250JavaWeb框架
1.负责微服务边界域划分,并进行功能开发与维护。 2. 解决 sql 执行慢问题,通过拆分业务逻辑,将复杂 SQL 进行拆分,合理建立索引,尽可能覆盖索引,大数 据量表通过 shardingJDBC 进行分表等,使原来的性能,极大的提高。 3. 利用多线程,解决第三方系统集成,工单下派问题,提高下派效率,还可以反馈中间态信息。 4. 通过 RocketMq 的事务机制和重试机制,实现第三方系统集成事务问题,并实现 TCC 事务回滚机制 5. 通过利用 reids 缓存,加分布式读写锁,实现读写分离的方式提高并发性能 6. 通过利用 Elasticsearch,实现政策文档知识的全文检索,redis 的数据结构实现排行榜。 7. 参与架构升级搭建,提供搭建方案(功能域划分,边界界限,中间件,库表拆分等)。
260微服务
中国教师资格网信息管理平台,作为全国性的SOA微服务架构平台,统筹管理全国教师证书业务,具备庞大的用户基数和持续增长的用户量。应用分布式技术和负载均衡策略平台能够高效处理高并发报名及数据下载等,确保用户流畅体验。同时,利用多线程技术,实现快速数据处理,提升服务效率。平台与公安等多系统安全交互数据,保障信息安全。
430集群/负载均衡
该项目主要分为小游戏投注模块、优惠活动模块、充值提现模块、任务奖励模块。 我主要负责后台(及后台页面)开发、数据库表结构设计。 后台主要主要分为8大模块: 1、首页统计:图表统计 2、角色管理:实现对商户、代理、会员三类角色的管理 3、财务管理:分为审核管理、稽核管理、返水管理、返佣管理、额度管理、支付管理、汇率管理 4、活动管理:分为优惠活动、抽奖活动、任务设置 5、运营管理:各种报表统计和各种数据记录查询 6、网站管理:针对前段页面的相关配置 7、权限管理:实现后台管理管理、角色管理和谷歌认证开关 8、系统管理:后台菜单的配置、风险管控,访问限制等
490JavaVue 组件
掌上运营管理系统打造一个集营销、数据展示、厅堂管理、风险管控为一体的智慧厅堂终端管控平台,以 pad 为媒介,为客户提 供一站化管理。 ● 项目主要采用 spring cloud 微服务架构,同时使用 redis 缓存技术、activemq 消息队列、nginx 负载、mybatis、mysql 等技术实现。 ● 主要负责项目后端业务模块的开发,与前端以及 pad 安卓终端的对接,以及项目数据库方面的设计。 业绩: ● 项目涉及到与安卓终端的频繁交互,有效保证交互信息不丢失,不重复,确保业务正常 ● 涉及到的设备数据量达到百万级,优化查询效率,减少服务器端的压力,提升系统的稳定性
320Java日志工具(Logging)
当前共115个项目
×
寻找源码
源码描述
联系方式
提交