SHELL

壳层(英语:Shell)在计算机科学中,是指“提供用户使用界面”的软件,通常指的是命令行界面的解析器。一般来说,这个词是指操作系统中,提供访问内核所提供之服务的程序。不过这个词也拿来指应用软件,或是任何在特定组件外围的软件,例如浏览器或电子邮件软件是HTML排版引擎的shell。Shell这个词是来自于操作系统(内核)与用户界面的外层界面。通常将壳层分为两类:命令行与图形界面。命令行壳层提供一个命令行界面(CLI);而图形壳层提供一个图形用户界面(GUI)。
1:利用kettle进行job的开发,获取源端数据。 2:利用sheel进行kettle作业调度。 3:利用navitcat进行数据库管理。 4:利用java进行接口的开发。
800Java大数据
接口自动化测试框架核心特性 使用 python + pytest + allure + request + mysql/yaml 实现; 基本特性: (1)数据不可控性 大部分由于人为因素 修改或者删除 维护的测试数据导致的。 由于被测系统接口返回的数据是实时变化的、也不是固定的,导致断言失败,此时并不确定是被测程序错误引起的,还是测试数据变更引起的。 (2)被测系统的中间件服务异常 (3)依赖第三方系统
950python
AI算法训练平台是为数据湖内自研算法团队打造的在线训练平台。其基于kubernetes,kubeflow和docker虚拟化技术实现训练环境的自动部署和分布式训练环境,平台将实时监控资源使用情况,并为算法团队合理分配资源,达到资源的最大化利用。除此之前平台也将提供算法的在线训练、验证及模型管理、算法发布等功能。使算法人员不必耗费大量时间去调动服务器资源、部署运行环境,从而专注模型训练,有效保证模型质量。
1080Java服务框架/平台
项目功能模块概述: 数据抓取模块: 实现从各种互联网源头如论坛、博客、新闻等抓取海量数据。 情报展示模块: 将抓取到的数据按照企业需求进行分析和展示,提供直观的情报,帮助企业制定竞争策略。 多源数据解析模块: 利用Java的htmlparser库进行html解析,提取关键信息,同时通过Python、Selenium、XPath等技术爬取Facebook、Weibo、小红薯、Google、Instagram、Twitter等平台数据。 Linux服务器支持: 构建强大的Linux服务器群,用于存储和处理海量数据。 用户实现的功能: 使用者可以通过系统从互联网各个渠道获取大量商业价值的情报数据,系统对数据进行解析和展示,帮助企业了解竞争环境,优化竞争策略。 我的贡献和技术栈: 负责模块: 我独立负责了从论坛和博客中抓取数据的模块,进行了grasper的优化,同时负责Linux服务器的部署,通过Shell脚本实现了持续部署能力。 使用技术栈: 项目核心技术包括Java的htmlparser库用于HTML解析,以及Python的Selenium、XPath解析等技术用于多源数据的爬取。
1230Java数据查询
1、消息队列调配抓取任务 2、爬虫抓取网络,正则解析文字内容 3、ES评分文字内容,结合内部算法归并相似的文字
650爬虫
1.参与总体数据仓库设计。 2.使用Python/自研调度工具将最底层不同系统不同类型的数据源(接口,Excel,Json,Mysql,Oracle)统一抽取到操作数据存储层。 3.使用自研调度工具对总线层数据进行转换、清洗,生成干净的数据流。 4.定期对项目整体代码review,对Python代码和SQL和储过程进行优化。 5.由于项目前期甲方提供数据不足,我负责使用Python的Pandas、Numpy、Nyhive、Flask生成模拟数据,并将数据保存到Hive、Excel中,并将数据通过接口和视图、表的方式暴露出来,以保证有数据,项目可以正常推动。 6.将明细数据仓库层进行聚合,形成业务领域的明细数据集,最后使用调度工具将数据入到Mysql中。
1210python网络爬虫
在项目中负责钉钉对接API接口实现前端考勤模块页面 以及后端java工程代码 还负责复杂excel导出功能 做过用户管理,角色管理,JWT登录 spring security配置等等 由于设计公司隐私简单用几张照片吧
690Javavue
该项目的是通过分析系统SQL(MySQL、Spark),进行业务问题排查、分析、优化等,另一用途是自动生成airflow调度任务。 项目主要由前端+后端组成,前端主要用于展示分析结果,由原生html、echarts、neo4j构成,也实现了excel导出功能;后端主要分为sql分析、生成表粒度调度关系、生成字段粒度调度关系、excel样式定义及生成、airflow任务生成(全图、子图切割)等。 主要负责:前后端全部,且该项目已稳定运行并提供足够数据分析支撑
4350pythonecharts
1、总共分为几大模块:抓包解析模块、数据入库模块、web展示模块、威胁检测模块。 2、本人负责java端web检测模块,数据入库模块,威胁检测模块。 3、web模块主要分为流量分析,检测分析,检测规则等几十个大功能点。 4、数据入库流程为kafka->flink->clickhouse,负责模块搭建和性能优化,从每秒入库5万数据优化到每秒20万数据。
870Javaweb
根据工信部SIM卡实名认证规定所开发的实名认证相关业务平台。主要分为三部分:后台管理端、用户端。 后台管理端提供,权限相关分配,数据字典配置,短信模板配置等,相关后台功能;以及对自动实名认证进行人工抽查;自动分配工单,简化客服人员工作。 我的职责:1) 获取身份证正反面及手举身份证的采集图像。2)对身份证正面进行人脸检测、清晰度评估、公民身份号码的采集。 3)对身份证反面进行有效期限和签发机关数据的采集。4)对手举身份证图片的 人脸检测、人脸清晰度评估、人脸3D检测、人脸活体检测等. 5) 匹配人脸识别的用户名等。
1470C/C++数据处理
1.服务端和客户端框架代码编写 2.收发包线程代码编写 3.协议解析逻辑实现 4.线程管理脚本实现 5.进程启动脚本实现
810C/C++服务器软件套件
职责:团队负责人、数据库表设计、各模块搭建及设计、核心模板开发 主要内容:(1)数据采集(2)数据处理(3)流程调度(4)检验评估(前端控制任意时间段检验 评估和定期评估)、生成评估报告(任意时间段和定期报告)(5)产品统计(6)产品及评估结果 显示。 技术路线:SpringBoot + SpringMVC + Mybatis + 虚谷数据库 + Netty + SpringSecurity + Lay ui + openlayers + python+docker + shell 个人成长:(1)通过配置.ini文件,增加需要下载的数据,设置开关(是否向MQ发消息,是否存文 件索引),设计出一套通用的数据下载程序。支持公司所有项目的数据下载,支持历史数据和实时数 据下载(2)通过配置ini文件,配置需要处理的数据属性,执行的命令,动态匹配文件,执行 python脚本。(3)通过配置.ini文件和xml文件,将被检验数据和检验源数据一一匹配,插入和更新 到数据库。(4)通过配置yml文件,支持不同数据、不同时间尺度、不同区域、不同数据源、不同 插值算法的检验评估,使用parallelS
1360python位置信息(GPS/Location)
1、邀请单位创建,生成邀请码,嘉宾通过邀请码注册,管理组审核资料,管理嘉宾旅程信息、参会信息等。 2、负责需求设计,配置化标签、批量导出多级嘉宾列表等功能实现,后期还负责系统运维、数据批量处理等。 3、难点在于适配国产达梦数据库,以及配置化标签实现逻辑。
1360Java微服务框架
项目描述: 微租赁是平安租赁推出的为小微企业客户提供在线租赁服务的 APP ,包括合同管理、寄件查询、智能提醒、发票验真等相关服务与功能,微租赁为客户打造一个线上自助查询服务,是客户服务与关怀的租赁服务中心。 职责:合同管理,客户管理,授信管理,进项票管理,人员管理等。 项目描述: 主要职责:1.业务管理 1)业务线配置 2)业务线基础配置 2.商户管理 1)商户注册 2)商品管理 3)商户结算配置 3.用户管理 1)用户注册 2)划拨明细管理 4.交易管理 1)充值明细管理 2)账号余额管理 3)账号出入金管理 5.对账管理 1)商户对账管理 2)对账通道管理 3)通道对账异常明细 4)通道对账单下载 6.结算管理 1)结算管理 职责: 项目管理以及后端开发
1320JavaJava
项目简述: 在 openEuler(Linux)操作系统上,使用 python 编写更新提醒软件,支持 X86/ARM 架构,支持定时任务,开启弹窗,日志管理,yum/dnf 仓库的正确性检测,遵循 yum/dnf 更新机制。 思路描述: 更新前使用 python 调用 shell 对当前系统架构,运行环境,权限,可更新软件进行获取,使用正则对软件和软件信息进行过滤,最 终调用 shell 实现更新 本人负责: 需求分析,架构设计,核心功能开发,为前端页面提供底层linux接口的内容
1060python操作系统工具
1. 在线工具,主要面向需要联系雅思写作的学生。提供诸如自动批改、自动润色等专业功能 2. 我作为运维负责人,与前后端开发合作交付完整的服务。主要技术包括:docker、linux、shell、ci/cd等
1700docker
1、通过 docker 、异步方式优化版本流水线打包,从原打包需要2个多小时优化至半小时以内。 2、独自基于 shell 对与已有定制流水线优化以及新的功能添加。 3、根据客户需求定制认证开发功能(如:人脸识别对接、浙政钉、企业微信、saml 认证等)
1760网络安全
1、项目分为全文搜索、数据入库、数据迁移、数据关联、数据字段配置。实现逻辑与低代码平台类似 2、负责数据入库、数据迁移、数据关联、数据关联图谱、数据字段配置。
1010Javaweb
项目主要基于 Gstreamer 开源库为核心,采用 FFMPEG 作为文 件格式/协议/软件解码模块实现对本地与网络视频的播放,支持 点播,定制化播放. 自动识别音视频视频编码并选择相应的解码 器.对视频文件中的字幕进行提取,解码显示,并对字幕中的特 效进行渲染。 我的职责:主要负责对SRT/SUB/SAMI/PGS 字幕的解析与图片字幕的显示 控制,并对字幕的快进,快退,暂停,播放停止进行处理.并实现 字幕、音频和视频间的同步.
1580C/C++流媒体服务器
1、微服务应用架构,框架选型 2、需求分析,详细设计,开发测试,部署运维 3、参与招行饭票周三五折抢购系统优化,每分钟订单量达到约9万笔
1010JavaSpringCloud
当前共589个项目
×
寻找源码
源码描述
联系方式
提交