工作职责:
1、参与ETL、调度、集群、数据处理的设计与开发,文档撰写。
2、参与定义数仓/数据中台模型,从计算性能、存储性能、ETL流程与任务等层面进行优化。
3、负责大数据平台的数据采集、处理、存储、计算、分析的架构实现;
4、参与基于Flink开发实时数据仓库
5、研究前沿技术,解决实际场景中的业务问题,优化实时流式大数据计算的架构和性能。
任职资格:
1、熟悉主流数据库技术,精通SQL,有一定SQL编码及调优经验。
2、熟悉Java/Scala开发,有脚本语言(shell/python)开发经验者优先。
3、精通Hadoop、Kafka、Flink、Spark等大数据平台或框架的架构和工作原理,对flink、spark源码有研究,具的有大规模数据采集、处理等项目经验。
4、具备2年以上大数据项目开发经验或数据中台产品研发经验