[WhoAmI]自我介绍

Posted by Akilis on 16 Aug, 2021


张鑫

经历

项目

  1. 数据分析
    • 负责公司UV上万的BI系统查询优化研发,基于Apache Calcite实现RBO、CBO通用SQL优化, 提升查询性能. 开发慢查询诊断及加速工具,构建查询耗时画像特征,结合OLAP引擎特点,对慢查询SQL自动归因并推荐分析、生产侧对应的性能提升方案。
    • 负责设计并实现集机器学习Training/Serving于一体的web服务,在BI高级分析场景落地。研究并实现What-If Analytics, Clustering等核心算法,框架本身可扩展算法种类、系统易于伸缩,接口响应时间小于10秒,符合OLAP产品低延迟需求。
  2. 数据生产
    • 负责通用调度系统,托管3000+ Spark, Flink等自定义图依赖的作业任务, 提高了产品可运维性、可靠性、易用性、伸缩性。研究DolphinScheduler, AirFlow核心能力,设计新一代系统的总体架构,参与核心功能实现。
    • 参与实现并运维实时计算平台,平台提供Flink作业整个生命周期托管,日志查看,监控告警,Flink集群、Kafka集群、Yarn队列资源管理。作业可指定运行在不同的Hadoop集群和Flink版本。集群数百台机器,CPU 10000核,内存10 TB。

联系我

了解更多


   CV    RESUME   

 Share on: Email