主要技术:mysql、java、springboot、mybatis、hadoop、hive、sqoop、spark、bootstrap、jquery和svn。
职责描述:数据入仓和运维。
(1)通过系统配置将各部门的数据入仓至大数据平台,主要以文件类型数据入仓和通过sqoop抽取数据库中数据两种入仓方式;
(2)对json和xml类型的报文数据进行解析,拆分为可直接查询的表进行入仓,如二代征信报文。对于结构简单的报文主要通过lateral view、explode和json_tuple进行sql解析;
(3)通过配置集群间数据进行迁移,使用distcp命令实现;
(4)对生产问题进行处理和用户使用数据时答疑。
点击空白处退出提示
评论